:: codemode.org :: :: mmmmm....apelsin ::

86 comments 2004-01-01 Bertil Ekdahl: Publications [cs.lth.se]


2004-01-04 17:55 erik
"Approximation of Anticipatory Systems" var ju intressant, för här backar ju Bertil fullständigt angående uppdelningen i deskriptiva agenter och modellbaserade. De modellbaserade går att beskriva med de deskriptiva, således borde hans slutsatser i "How Autonomous..." inte gälla. (Disclaimer: om jag fattat det rätt, men det står uttryckligen så. Jag är bara förvånad över kovändningen.)

Han skriver också att "there is no end of possible progress in AI despite the impossibility to build an agent containing its own model".

Alltså, det enda som kvarstår nu är påståendet att "a human agent can contain its own model" men inte en maskin. I övrigt kan de båda lösa samma problem och har samma begränsningar.

Då är frågan: är detta påstående sant?

Påståendet är intressant nog kärnan i Lucas-argumentet, som finns excellent summerat här:
http://www.math.yorku.ca/Who/Faculty/Steprans/Courses/3500/m0212/0004.html

Man kan söka på nätet och hitta massor av motsägelser till detta bevis, som också som tidigare nämnts tas upp i GEB-boken på flera ställen. Andra exempel:
http://nl.ijs.si/~damjan/webb.html
http://homepage.ntlworld.com/g.mccaughan/g/remarks/lucas.html
samt Sloman som tidigare postats och som nog är den mest utförliga.

Vore som sagt intressant att höra Bertil själv förklara sin teori.

Annars kan man ju avsluta med den här summeringen, om Lucas/Penrose-argumentet:

"Penrose's arguments that our reasoning can't be formalized is in some sense correct. There is no way to formalize our own reasoning and be absolutely certain that the resulting theory is sound and consistent. However, this turns out not to be a limitation on what computers or formal systems can accomplish relative to humans. Instead, it is an intrinsic limitation in our abilities to reason about our own reasoning process. To the extent that we understand our own reasoning, we can't be certain that it is sound, and to the extent that we know we are sound, we don't understand our reasoning well enough to formalize it. This limitation is not due to lack of intelligence on our part, but is inherent in any reasoning system that is capable of reasoning about itself."
http://psyche.cs.monash.edu.au/v2/psyche-2-04-mccullough.html

Alltså (som jag tidigare nämnt) det går inte att bevisa att människa == maskin, men det går heller inte att bevisa att människa > maskin. Debatten kommer således säkerligen att fortsätta.

Tur är kanske det, vad skulle man annars tjafsa om över ölen? :o)


2004-01-03 20:09 Johan
vadå nästan? jag som tog i så mycket jag kunde :)

BE kanske håller föreläsningar som man får gå på, värt att fårga kanske?


2004-01-03 19:54 erik
Nä, ok, jag gick över gränsen där, men vafan din dissning av transhumanismen var nästan värre, så det står 1-1 i pajkastning. :o)


2004-01-03 19:38 Johan
"Approximation of Anticipatory Systems" är förresten ett väldigt kort (6 sidor med referenser) och to-the-point papper för den intresserade.


2004-01-03 19:24 Johan
kommentaren om väderkvarnar lyser inte direkt om respekt, men jag vore också klart intresserad av att läsa pappret.


2004-01-03 19:24 erik
Du missade poängen med argumentet. Byt ut:

(1) X is superbly capable of being social.

(2) There is no (practical) algorithm guaranteed to being social.

therefore

(3) X does not owe its power to being social to an algorithm.


2004-01-03 19:21 Johan
att observera att en dator kan besegra en människa i schack och därav anta att datorer är/kan bli intelligenta är ungefär lika smart som att observera sin dator sortera 2^8 heltal snabbare än en människa och anta att sin pc är smartare än mozart.


2004-01-03 19:19 erik
Jag har all respekt för Bertil och det hade varit intressant med hans vinkling. Tror jag ska försöka få tag på honom nästa vecka, eller åtminstone avhandlingen.

Fortsättning följer... :o)


2004-01-03 19:15 Johan
"Berils argumentation bygger på samma argument som Penroses, som i sin tur bygger på Lucas."

Ska villigt erkänna att jag inte läst alla hans papper eller har tillgång till själva *avhandlingen* för den delen. Av de papper jag tittat i finns dock inga referenser till Penrose/Lucas som du pratar om. Var har du fått det ifrån?

"Vad du skrev tidigare kommer från Bertils avhandling som inte finns på nätet. Hade gärna läst den. Har du den?"

Argumentationslinjen är samma som den som BE använder ett av sina papper, men inte kopierat. Grundiden är att eftersom allt som är grundförutsättning för mänsklig intelligens inte är axiomerbart så kan inte formella system (stora heltal) vara intelligenta. Med visst förbehåll mot att jag missförstått något jag läst (vilket inte är helt otroligt :)


2004-01-03 18:02 erik
Ett program som vinner över människor i schack kan omöjligt ha axiomatiserat alla möjliga situationer som kan uppkomma.

Så här skriver Dennett:
"Chess is a finite game (since there are rules for terminating go-nowhere games as draws), so in principle there is an algorithm for either checkmate or a draw, one that follows the brute force procedure of tracing out the immense but finite decision tree for all possible games. This is surely not a practical algorithm, since the tree's branches outnumber the atoms in the universe. Probably there is no practical algorithm for checkmate. And yet programs--algorithms--that achieve checkmate with very impressive reliability in very short periods of time are abundant. The best of them will achieve checkmate almost always against almost any opponent, and the "almost" is sinking fast. You could safely bet your life, for instance, that the best of these programs would always beat me. But still there is no logical guarantee that the program will achieve checkmate, for it is not an algorithm for checkmate, but only an algorithm for playing legal chess--one of the many varieties of legal chess that does well in the most demanding environments. The following argument, then, is simply fallacious:

(1) X is superbly capable of achieving checkmate.

(2) There is no (practical) algorithm guaranteed to achieve checkmate.

therefore

(3) X does not owe its power to achieve checkmate to an algorithm."


2004-01-03 17:46 erik
Berils argumentation bygger på samma argument som Penroses, som i sin tur bygger på Lucas.

Vad du skrev tidigare kommer från Bertils avhandling som inte finns på nätet. Hade gärna läst den. Har du den?


2004-01-03 17:45 Johan
"int main(void) {
print("Jag är ett program som inte gör bevisföring.");
}"

Japp.. denna maskinen går mycket väl att axiomatisera. Det accepterar jag.

Skriv nu ett program som är en turingmaskin som inte går att axiomatisera.


2004-01-03 17:44 Johan
ah.. så nu tycker du att hjärnan åter är ett formellt system. då skulle jag vilja referna till mitt inlägg "2004-01-02 20:11 Johan" som tydligt visar att saker som mänskligt språk inte kan representeras i R.


2004-01-03 17:42 Johan
tja.. kan inte så mycket om Penrose och har framförallt inte läst något av honnom. Däremot finns det ett antal papper av BE som är både lätta att läsa och förstå, och knappast möjliga att motbevisa.


2004-01-03 17:41 erik
Alla formella system ägnar sig inte åt bevisföring.

int main(void) {
print("Jag är ett program som inte gör bevisföring.");
}


2004-01-03 17:39 erik
"Can Computers be Social"

Den refererar mest till hans doktorsavhandling som inte ligger upplagd på nätet.


2004-01-03 17:38 erik
"Att härnan skulle vara ett formelt system. Något som tom du hävdar är fel: "Men den mänskliga hjärnan ägnar sig inte åt bevisföring.""

Ja men det är två olika saker. Du kan bygga massor med saker med ett formellt system. Du kan bygga ett program som spelar schack och du kan bygga ett program som utför matematisk bevisföring, och du kan med största sannolikhet bygga ett program som klarar Turing-testet.


2004-01-03 17:36 erik
"Most of us in AI choose to ignore Penrose because his "proofs" rely on theorems
of mathematics that apply equally to humans. "
http://groups.google.se/groups?hl=en&lr=&ie=UTF-8&oe=UTF-8&frame=right&th=706204c8578723b5&seekm=slrn7fp0g2.fii.bquinn-spam%40Godzilla.cs.nwu.edu#link2


2004-01-03 17:35 Johan
i övrigt kan jag varmt rekommendera "Can Computers be Social" av vår favoritförfattare.


2004-01-03 17:34 Johan
GEB är iaf inledande en intressant bok, men den spårar ur mot slutet. Kärnan i de skumma ideerna hittar man på bla s559 "that every aspect of thinking can be viewed as a high-level description of a system which, on a low level, is governed by simple, even formal rules." Att härnan skulle vara ett formelt system. Något som tom du hävdar är fel: "Men den mänskliga hjärnan ägnar sig inte åt bevisföring. Det är ju det jag har försökt säga flera gånger."


2004-01-03 17:31 erik
Dennett recenserar Penrose och tar upp hans argument:
http://ase.tufts.edu/cogstud/papers/penrose.htm


2004-01-03 17:31 erik
Roger Hansson bemöter Penrose:
http://hanson.gmu.edu/penrose.html


2004-01-03 17:30 erik
Moravec bemöter Gödel-argumentet i boken Robot, s. 78-82, tillsammans med de 8 andra argumenten som Turing listade.


2004-01-03 17:28 erik
Har du läst hela pappret? Gör det.


2004-01-03 17:22 Johan
"om jag inte missminner mig skriver han att de kräver en exekveringsmiljö eller något i den stilen. de ska alltså ses som processer, inte siffror."

Men vad är en exekveringsmaskin om inte en maskin? Varje maskin är också ett heltal.


2004-01-03 00:03 erik
""A swarm has been defined as a set of (mobile) agents which are liable to communicate directly or indirectly (by acting on their local environment) with each other, and which collectively carry out a distributed problem solving."

ungefär som seti-skärmsläckaren alltså? intressant."

Nja, det intressanta med swarmar är att de har ingen central kontroll-enhet som styr algoritmen. Myrstacken är en vanlig analogi.


2004-01-02 23:50 erik
återigen får jag dessutom peka på Hofstadters GEB-bok som utryckligen bemöter Lucas-argumentet.


2004-01-02 23:49 erik
du kan ju annars roa dig med Sandbergs doktorsavhandling:
http://www.nada.kth.se/~asa/Thesis/thesis.pdf
den handlar förvisso "bara" om minnet och jag har själv inte läst den än. Den är dock intressant eftersom han är i grunden neurobiolog och har sas både en fysisk förklaring och en beräkningsbar.


2004-01-02 23:42 erik
ja, som bertil. :o)


2004-01-02 23:42 erik
"på sida 5 säger saloman att inga stora tal kan vara intelligenta"

om jag inte missminner mig skriver han att de kräver en exekveringsmiljö eller något i den stilen. de ska alltså ses som processer, inte siffror.


2004-01-02 23:41 Johan
det finns mycket tomtar.


2004-01-02 23:40 erik
du kan få låna den här boken osso:
http://print.google.com/print/doc?isbn=0262194066
Om hjärnan som neuralt nätverk.


2004-01-02 23:38 Johan
men jag håller med dig. det finns alltså en person, Sloman som argumenterar för AI.

en.

intressant.


2004-01-02 23:37 Johan
på sida 5 säger saloman att inga stora tal kan vara intelligenta

.."or even certain very large numbers"...

eftersom alla maskiner är enumererbara så är alltså ingen maskin intelligent.


2004-01-02 23:36 erik
dvs detta händer:
http://www.jetpress.org/volume1/power_075.jpg


2004-01-02 23:31 erik
du kan mig veterligen inte implementera en turing-maskin enbart genom att använda funktionen plus.

även om man skulle kunna det spelar det ingen roll i det här fallet. min poäng var att AI-området ständigt utvecklas med nya lösningar på nya problem.

det viktiga är frågan om huruvida dessa problem teoretiskt någonsin kan uppnå samma nivå som de problem en människa löser.

Du kan få låna Dennetts bok om du vill.


2004-01-02 23:27 Johan
hmm... calc implementerar visserligen bara plus för givna a och b. men påståendet om plus hävdade iofs inget annat. det går inte att implementera plus(a,b) där a och b är i N i praktiken, men i teorin går det bra.


2004-01-02 23:24 Johan
prova windows-start och skriv in calc.


2004-01-02 23:23 Johan
"ja den funktionen är för det första inte turing-kompatibel och för det andra kan den bara lösa addition, inte schackspelande."

tro mig. man kan implementera plus på en turingmaskin.


2004-01-02 23:22 Johan
hmm "Det handlar om bredden av funktioner" alltså mer än en funktion. Det krävs ett sett av funktioner, F. F är då summan av funktioner som löser intressanta problem. Vad kan då F vara {schack, sockerkaka, civilization, sortering}? Vad annars vill du ska ingå i F?


2004-01-02 23:20 erik
"jag lovar att funktionen plus(a, b) som beräknar summan av a och b kan lösa oändligt antal problem."

Tja den funktionen är för det första inte turing-kompatibel och för det andra kan den bara lösa addition, inte schackspelande.


2004-01-02 23:17 Johan
ah... äntligen ett riktigt papper "The Emperors Real Mind". ska bara läsa det först :)


2004-01-02 23:14 Johan
"Antalet problem som går att lösa i praktiken."

jag lovar att funktionen plus(a, b) som beräknar summan av a och b kan lösa oändligt antal problem.


2004-01-02 23:13 Johan
från si sidan:

"A swarm has been defined as a set of (mobile) agents which are liable to communicate directly or indirectly (by acting on their local environment) with each other, and which collectively carry out a distributed problem solving."

ungefär som seti-skärmsläckaren alltså? intressant.


2004-01-02 23:11 erik
"Bredd?"

Ja. Antalet problem som går att lösa i praktiken. Vinna över världens bästa schackspelare. Komponera musik. Skriva dikter. Promenera.


2004-01-02 23:10 erik
Daniel Dennett dyker ofta upp i debatter om medvetandet:
http://www.edge.org/3rd_culture/bios/dennett.html
Särskilt efter boken med den blygsamma titeln "Consciousness explained".
Fast han kanske liknar en tomte för mycket. Han har ju tom röd mössa och skägg. :o)


2004-01-02 23:08 Johan
""Det finns nämligen en rad papper som hävdar att detta är omöjligt."

Vad?"

Det var där vi började. Se längst ner:

"se Bertil ge "agenter" en känga:

"How Autonomous is an Autonomous Agent?""


2004-01-02 23:07 Johan
"Det handlar om bredden av funktioner, inte hur pass snabba algoritmer man kan göra. "

Bredd?


2004-01-02 22:52 erik
Hm. Massa trasiga länkar på den sidan. Bättre url:
http://www.sce.carleton.ca/netmanage/tony/swarm.html


2004-01-02 22:49 erik
Swarm Intelligence är ett annat intressant område:
http://dsp.jpl.nasa.gov/members/payman/swarm/


2004-01-02 22:48 erik
Det här har jag postat förrut:
http://www.cs.bham.ac.uk/research/cogaff/Aaron.Sloman_Emperor.Real.Mind.pdf
Det bemöter Penrose's bok (Lucas-argumentet). Jag vet inte om det är vad du frågar efter.


2004-01-02 22:42 erik
"Hur snabb ska en sorteringsalgoritm vara för att du skall acceptera att den är intelligent o(n/42) eller kanske o(n/43)?"

Det handlar om bredden av funktioner, inte hur pass snabba algoritmer man kan göra. På 50-talet ansågs kompilatorteknik vara magisk AI.


2004-01-02 22:41 erik
"Det finns nämligen en rad papper som hävdar att detta är omöjligt."

Vad?


2004-01-02 22:36 Johan
"Det intressanta är ju att så fort ett framsteg görs så dissas det av ludditerna"

Hur snabb ska en sorteringsalgoritm vara för att du skall acceptera att den är intelligent o(n/42) eller kanske o(n/43)?


2004-01-02 22:32 Johan
Det finns nämligen en rad papper som hävdar att detta är omöjligt. Du verkar troa att majoriteten av forskarna tror annorludna så det är väl inte mer än rätt att fråga efter iaf ett sådant papper?


2004-01-02 22:31 Johan
Naturligtvis finns det forskning som strävar efter att hitta algoritmiska lösningar på intressanta, väldefinierade, problem (som tex sortering). Detta är inget som BE:s papper ifrågasätter. Däremot finns det kanske inte alltid exakta lösningar på alla dessa problem se även debatten om huruvida P = NP.

Vad jag frågar efter är någon som inte tror på tomtar som tror att man kan designa algoritmer som kommer att fixa "pursuit of its own agenda"-kravet. Och en länk till ett sådant papper.


2004-01-02 22:26 erik
"Men kom med ett exempel på ett enda någorlunda trovärdigt vetenskapligt papper"

Som gör vad? Visar hur man bygger en mänsklig hjärna på en dator? Det finns inte. Åtminstone inga seriösa.

Intressanta forskningsområden? Håll ett öga på Soft Computing, t.ex. här: http://www-bisc.cs.berkeley.edu/BISCProgram/default.htm

Eller sidor som motbevisar Penrose/Lucas-argumentet? Det har jag postat flera som gör.

Det finns däremot massor av forskning inom olika delområden av de mänskliga funktionerna. Syn, hörsel, luktsinne, gång, känsel, algoritmlösning, språkförmåga etc.. Här görs ständiga framsteg, även om forskningen säkert hade mått bättre av ett helhetsgrepp.

Det intressanta är ju att så fort ett framsteg görs så dissas det av ludditerna. "Jamen det är ju bara en algoritm", "det är inte _äkta_ seende", "det är inte riktigt fri vilja" osv.

Å så kan man ju hålla på ett tag, förmodligen långt efter den första datorn skrikit ut sin dödsångest i cyberrymden när en människa drar ut sladden. :o)


2004-01-02 21:53 Johan
"Det viktiga är vad som är den allmänt accepterade åsikten inom forskarvärlden"

Men kom med ett exempel på ett enda någorlunda trovärdigt vetenskapligt papper så kan vi prata om saken ...


2004-01-02 21:52 Johan
"Påstår du att AI-forskningen inte kommit fram till någonting på 50 år?"

Hmm.. handlar om definitioner igen. Pratar vi om att hitta olika intressanta algoritmiska lösningar på väldefinierade problem som tex schack, sökningar, etc så visst det kommer fram bättre algoritmer varje år. AI'n i civilization är besvärligt att besegra på högsta svårigheten. Det skulle väl inte förvåna mig om någon hittar en super-quicksort-plus-plus som sorterar jättesnabbt snart (men kan för lite om teorin bakom sökning för att uttala mig egentligen).

Igen av de algorithmer som man studerar på AI-kurser som finns att läsa på högskolor försöker ens närma sig saker som "pursuit of its own agenda". Alla algorithmer jag känner till försöker (som bäst) lösa författarens problem.

Det finns alltså dels den seriösa AI-forskningen som ägnar sig åt att försöka hitta partiella lösningar på intressanta problem. Sen finns det dem som tror på både det ena och det andra, se din lista nedan för flera lustiga exempel.


2004-01-02 21:50 erik
"Tror snarare att han är lite för feg för att våga slåss med dem som är lika stora som han själv"

Vilka då? Stephen Wolfram? Marvin Minsky? Bill Joy?

Wolfram tog sin doktorsexamen i fysik som 20-åring.

Men visst, name-droping är ganska dåligt som argument. Det viktiga är vad som är den allmänt accepterade åsikten inom forskarvärlden, och jag vågar hävda att Bertil är i klar minoritet.


2004-01-02 21:40 erik
Påstår du att AI-forskningen inte kommit fram till någonting på 50 år?


2004-01-02 21:32 Johan
".. Jag har inga problem att tänka mig .." "Däremot vimlar det av teorier och spekulationer."

.. nä det verkar väl vara problemet med AI-flummarna. De fantiserar vilt. Som du säger själv handlar det om fria fantasier och önskedrömmar (se även http://www.svenskakyrkan.se/)

"men i ärlighetens namn tror jag han slåss mot väderkvarnar."

Tror snarare att han är lite för feg för att våga slåss med dem som är lika stora som han själv. Lätt att sno godis från barnen lixom.


2004-01-02 21:30 erik
"Så visst: bevisföring. Men ändå inte."

Hm. Jag tror det är detta som är pudelns kärna. Luktar så.


2004-01-02 21:25 erik
(Många trådar nu. Pålsson!! :o)

"Pappret som refereras till nedan handlar om Marvins önskedrömmar om vad han vill att datorer borde kunna göra. Han ger ingen form av konkret exempel på något tänkande program."

Givetvis finns ingen AI-forskare idag med ett färdigt, komplett "mänsklig hjärna"-program. Däremot vimlar det av teorier och spekulationer.

Diskussionen handlar dock inte om hur man ska skriva ett sådant program utan om huruvida det finns begränsningar i Turing-kompletta maskiner som omöjliggör det.


2004-01-02 21:18 erik
"Men problemet "skriv ett program som kan besegra en människa i schack" är naturligtivs inte väldefinierat"

Jaså inte, du definierade ju det precis. :o)

Teoretiskt skulle man kunna vidga problemet till "lär dig spelreglerna för spel X, och besegra sedan varje motståndare som möter dig".

Det är fortfarande ingenting i den problemdefinitionen som motsäger Lucas-argumentet.

Vad det handlar om är att programmet lär sig hantera förändrade situationer, något Bertil menade var omöjligt utan att formalisera hela omvärlden (inklusive, får man förmoda, motståndarens hjärna).


2004-01-02 21:12 erik
"Vad tror du att pythagoras hjärna ägnade sig åt när den funderade på trianglar?"

Förmodligen tänkte han sig olika modeller av verkligheten, sedan formaliserade han dessa. Så visst: bevisföring. Men ändå inte. :o)

Vad det handlar om är olika abstraktionsnivåer av tänkande. Det är inte så att vår hjärna bygger upp logikträd som gör att vi exploderar i ett moln av logik när de inte är konsistenta. "Den här meningen är falsk" är något vi kan reflektera över eftersom vi kan tänka oss att den är både sann och falsk samtidigt. Detta klarar vi eftersom våra "mind-programs" på den nivå vi tänker inte har någon klar uppfattning om vad som är sant eller falskt. Bevisföring är något vi måste anstränga oss för att ägna oss åt.

Den stora frågan är ju huruvida ett system som kör på en Turingmaskin kan uppnå samma förmåga.

Jag har inga problem att tänka mig ett program som avväger olika möjligheter, bygger mentala modeller eller kan reflektera över meningen "den här meningen är falsk" utan att krascha.

Det är ju ingenting i det beteendet som omöjliggörs av Lucas-argumentet.


2004-01-02 21:04 Johan
Men problemet "skriv ett program som kan besegra en människa i schack" är naturligtivs inte väldefinierat. Därför krävs det en människa för att skriva det programmet.


2004-01-02 20:58 Johan
Schack är ett väldefinierat problem. (se chess rules for kids om du undrar: http://www.chessvariants.com/chess4kids.dir/c4c-intro.html)
Man kommer inte efterhand på hur reglerna är. "Hörru om jag får flytta mitt torn hit så får du flytta ditt dit."


2004-01-02 20:55 Johan
Men "When will computer hardware match the human brain?" *försöker* ju inte ens beskriva hur maskiner ska tänka, pappret innehåller bara någon form av schema *när* de kommer att göra det. nämligen år 2020.

öhh...


2004-01-02 20:54 erik
"Försök att med
if, ++, goto. skriva ett icke-formellt program."

Att besegra en människa i schack är ett problem som inte går att formellt definiera.

Ändå finns det maskiner som vinner över människor i schack.


2004-01-02 20:46 Johan
"Men den mänskliga hjärnan ägnar sig inte åt bevisföring. Det är ju det jag har försökt säga flera gånger."

Intressant. Låter som något som jag skulle säga :)

Naturligtvis gör den det emellanåt. Vad tror du att pythagoras hjärna ägnade sig åt när den funderade på trianglar?


2004-01-02 20:45 erik
Haha. Dissa inte transhumanismen. :o)

Pappret finns här:
http://www.jetpress.org/volume1/moravec.htm


2004-01-02 20:45 Johan
Försök att med

if, ++, goto. skriva ett icke-formellt program.


2004-01-02 20:43 Johan
Moravec har publicerat ett papper som heter "When will computer hardware match the human brain?" hittade inte själva dokumentet (han vågar väl inte ha det på nätet, men bevisa mig gärna ha fel). Det intressanta är *var* han publicerade pappret - i "Journal of Transhumanism". Transhumanism jojo ..
Se gärna transornas websida: http://users.aol.com/gburch3/thext.html

"While there is a diversity of views and values within what can be loosely called the transhumanist community, participants in this cultural movement share a view that mankind has been engaged in a process of technologically-driven self-transformation since its inception. Fostering that process is an action agenda for transhumanists."

Som bäst kan man väl se dessa som helflummiga, haschrökande hippies. De har iaf inget med vetenskap att göra.


2004-01-02 20:42 erik
"anledningen är att mänskliga språk inte är formella eller entydiga, de behöver nämligen inte vara det.
för bevisföring i R krävs formalism och entydighet."

Exakt! Men den mänskliga hjärnan ägnar sig inte åt bevisföring. Det är ju det jag har försökt säga flera gånger.


2004-01-02 20:37 erik
Själv utgår jag från att ingen brytt sig.

Roger Penrose är det absolut tyngsta namnet någonsin som hävdat att human-level AI är omöjlig. Hans argument bygger på Lucas-argumentet från 1961, vilket mig veterligen även Bertils argument bygger på.

Efter att Penrose publicerade sina böcker gick debatten hög i ämnet, detta är trots allt en man som skrivit avhandlingar med Stephen Hawking och räknas som en av de absoluta toppforskarna inom fysiken.

Problemet är att Lucas argument motsades redan på 60-talet och Penrose's inlägg ändrade inte på detta. Det håller helt enkelt inte. (Jag har för mig jag postade en hel bunt länkar om detta förra debattvändan vi hade.)

Bertil ska ha kred för att han fortsätter kämpa för sin tro men i ärlighetens namn tror jag han slåss mot väderkvarnar.


2004-01-02 20:32 Johan
"To us, these requirements constitute the essence of being an agent. Let's formalize them into a definition.

An autonomous agent is a system situated within and a part of an environment that senses that environment and acts on it, over time, in pursuit of its own agenda and so as to effect what it senses in the future." Franklin och Graesser.

Hur formellt är det? *pursuit of its own agenda* vad betyder det?

its own agenda. det låter mer som något försök till ett flummigt gudsbevis än något annat.


2004-01-02 20:28 Johan
"Instead, today, many Al researchers aim toward programs that will match
patterns in memory to decide what to do next. I like to think of this as "do
something sensible" programming. A few researchers -- too few, I think
-- experiment with programs that can learn and reason by analogy. These
programs will someday recognize which old experiences in memory are
most analogous to new situations, so that they can "remember" which
methods worked best on similar problems in the past." Marvin Minsky.

Pappret som refereras till nedan handlar om Marvins önskedrömmar om vad han vill att datorer borde kunna göra. Han ger ingen form av konkret exempel på något tänkande program. Det mesta är drävel om *do something sensible*, *will someday* osv. Jo förklara gärna hur man implementerar:

void gör_något_vettigt(int b);

så att den gör något vettigt med b.

att killen vill att datorer ska börja tänka är helt ok.


2004-01-02 20:11 Johan
"var ju bara en lek med definitioner" precis som all annan matematik då eller?

* finns det skalliga människor?
-> antar att alla räcker upp handen och svarar ja.

* definiera *entydigt* vad en skallig människa är:
-> är det en människa som har
a) inget hår öht?
b) inget hår på huvudet (inte ens på hakan)?
c) mindre än 1000 hår på huvudet?

frågeställningen blir absurd. ja?

det går alltså inte att formellt definiera vad en skallig människa är.

anledningen är att mänskliga språk inte är formella eller entydiga, de behöver nämligen inte vara det.

för bevisföring i R krävs formalism och entydighet.

"The attempts to postulate mental properties to programs are deeply flawed and based on the lack of true understanding of language and especially the relation between formal system and its semantics" BE


2004-01-02 19:35 Johan
Hittade inte heller någon som svarat på Bertil. Får väl anta att ingen kunnat.


2004-01-02 16:29 erik
Bertils publikationer ger tyvärr rätt få träffar på google och mig veterligen har ingen svarat direkt på dem. En sökning på
http://citeseer.nj.nec.com/cs?q=bertil+ekdahl&submit=Search+Documents&cs=1
ger ingenting av intresse. Samtidigt, det där pappret "How Autonomous is..." var ju bara en lek med definitioner, så jag vet inte vad som ska motbevisas.

Följande personer är dock några som forskar uttalat med målet att uppnå förmågor hos maskiner motsvarande (eller överstigande) människans:

* Prof. Marvin Minsky, http://web.media.mit.edu/~minsky/ Se: http://web.media.mit.edu/~minsky/papers/ComputersCantThink.txt
* Prof. Stan Franklin, http://www.msci.memphis.edu/~franklin/
* Prof. Hans Moravec (kanske den mest extreme) http://www.ri.cmu.edu/people/moravec_hans.html
* Prof. Robert Brooks (inte lika uttalat mot just mänsklig förmåga, men hans robotar tillhör världens bästa) http://www.ai.mit.edu/people/brooks/index.shtml

Andra:
* Manfred Spitzer är professor i psykiatri och har skrivit den här boken:
http://print.google.com/print/doc?isbn=0262194066
* Anders Sandberg (doktor i neurobiologi med inriktning på modeller av minnet) http://www.nada.kth.se/~asa/Work/
* James Kennedy, som tillsammans med Russell Eberhart skrivit boken "Swarm intelligence" (http://www.computelligence.org/issue/SI/SI.html)

Sen kan man såklart inte låta bli att nämna mattegeniet Stephen Wolfram (intervjuad här: http://www.stephenwolfram.com/about-sw/interviews/96-2001/), Daniel Dennett (http://ase.tufts.edu/cogstud/~ddennett.htm) och Douglas Hofstadter. Raymond Kurzweil är inte forskare, men har utvecklat AI-fältet enormt genom sina praktiska applikationer (syntar, OCR-inläsning etc.). Som bekant är han stark förespråkare av intelligenta maskiner.

Det var Kurzweil som fick en av Sun-grundarna, Bill Joy, att skriva den klassiska artiklen "Why the Future doesn't need us" i Wired för ett tag sedan. Den artikeln lyfter ju fram hotet mot mänskligheten i form av intelligenta maskiner. Jacek Malek, som är en av Bertils forskarkollegor på LTH, har en länk till den artikeln på sin i övrigt sparsmakade hemsida:
http://www.cs.lth.se/home/Jacek_Malec/

Jag kan alltså tänka mig att fika-diskussionerna på den institutionen är rätt intressanta. :o)


2004-01-02 14:28 Johan
Det hade varit intressant med en länk till något papper där man försöker motbevisa Dr Ekdahls.


2004-01-02 11:48 erik
Jotack jag vet. :o)
Men det finns betydligt fler AI-forskare som inte tycker som han, så det argumentet håller ju inte.


2004-01-01 22:50 Johan
Du kanske skulle ta en titt på vad Bertil jobbar med innan du anklagar honnom för att vara en ovetande bonnpojk.

http://ai.cs.lth.se/index2.shtml


2004-01-01 20:52 erik
Ja, det är kul med definitioner. Hur autonom är en autonom agent? Hur fri är en fri vilja?

Bertil kör delvis med samma argumentation som John Searles i Chinese Room. När en dator gör något som påminner om en mänsklig förmåga, t.ex. styr en bil eller bakar sockerkaka, så degraderas handlingen till något enkelt "den följer ju bara ett program", "den styr inte bilen _på riktigt_ utan reagerar bara på stimuli utifrån" etc.

Vore intressant att höra Bertils kommentarer om den senaste utvecklingen inom robotiken. Kismet, Sonys robotar, Asimo etc. Förmodligen skulle han inte klassificera dem som "äkta autonoma" för de "följer ju blott ett program".

Samtidigt klarar maskinerna mer för varje dag som går och vi lär oss också mer om hur hjärnan fungerar. Det är med stor sannolikhet inte långt borta förrän dessa båda utvecklingar möts.

Vidare skriver han:
"However, the belief that computers can be autonomous mirrors the belief that the Turing machine model can be strengthened to other capabilities of man, or at least that other human capabilities could be shown to be on par with the calculating capability. All attempts to prove this have failed."

Bertil har tydligen helt missat all faktisk utveckling inom AI-området. Bildigenkänning, teckenigenkänning, automatisk talöversättning etc. är det produkter som finns på marknaden idag som klarar. Bertil väljer att ignorera detta. Att det däremot inte är _bevisat_ att människor inte kan mer än maskiner har vi redan diskuterat. Det finns ju som sagt massor av saker vi inte kan bevisa att vi inte kan, men det innebär inte att vi förväntar oss klara det i praktiken.

Han gör en uppdelning i "modellbaserade" och "deskriptiva" agenter. Den här uppdelningen är enligt mig alldeles för enkel. Det är inte svart eller vitt utan snarare en skala. Även ett enkelt en-funktionsprogram med lite enkla variabler som innehåller data kan sägas ha skapat en extremt enkel modell av omvärlden.

Uppdelningen är dock praktisk för käre Bertil. Modellbaserat kallar han allt sånt som maskiner ännu inte kan göra, men som människor kan. Deskriptivt är resten, men det är ju som vi redan konstaterat inte "på riktigt" utan bara en del av "dateriet".


2004-01-01 15:54 Johan
se Bertil ge "agenter" en känga:

"How Autonomous is an Autonomous Agent?"


name: remember me
comment:


enter the code:

21611 links, 2648 comments, 12968160 clicks.