Computer zelfbewust?

[317070]

Wat mij betreft heeft Big Dog een vergelijkbaar bewustzijnsniveau als van bijvoorbeeld een libelle. En z'n bewustzijnsniveau gaat rap omhoog in de ontwikkelingsfase.

Het wachten is dus op de Turingtest.

Big Dog kan wandelen. Punt. Ik zou hem eerder het bewustzijn geven van een amoebe. Deze agents in een FPS (met zelflerende AI) vind ik dan veel geavanceerder. Kun jij

En heeft iemand met 100% kunstmatige neuronen nu bewustzijn of niet?

Die vraag kan niemand beantwoorden met zekerheid. De wetenschap vermoedt van wel (gezien er nog nooit een 'geest', 'ziel' of consoort is aangetoond), maar een antwoord kunnen we hier nog niet op geven!

Zo zou er ook geen controle bestaan, heel slecht dus.

10 tegen 1 dat de mens gewoon versmelt met de machine, dat het het onderscheid tussen beiden vervaagt. De mens meet zich kunstmatige ledematen/sensoren/modules aan, de machine een kunstmatig bewustzijn. De mens krijgt de hardware van de robot, en de robot de software van de mens. Een soort van 'superwezen' als het ware.

Overigens is controle een illusie, mensen sterven al eeuwen dankzij tekortkomingen in machines, van brekende kranen in de middeleeuwen tot de weefgetouwen van Daens. Moorden we alle mensen/dieren/planten uit omdat we ze niet kunnen controleren? Iedereen kan morgen in een tiran veranderen, moordaanslagen plegen of de wereld overnemen. Moeten we daarom stoppen met kinderen te maken? :eusa_whistle: Bij machines is het net zo!

[Henriette]

zou zelfbewustzijn niet afhankelijk zijn van perceptie van je eigen lijf?

Sensorisch bewustzijn is iets wat in zuiglingen zich ontwikkelt toch? en daarmee hersenen een soort 'beeld' bouwen van hetzelf, en de postitie van het zelf in de omgeving.

Zonder sensorische input ontwikkelt zich niets in de hersenen en blijf je een soort roeland de kasplant.

Dus dat zou een knappe machine moeten zijn....

[Squawk]

zou zelfbewustzijn niet afhankelijk zijn van perceptie van je eigen lijf?

Sensorisch bewustzijn is iets wat in zuiglingen zich ontwikkelt toch? en daarmee hersenen een soort 'beeld' bouwen van hetzelf, en de postitie van het zelf in de omgeving.

Zonder sensorische input ontwikkelt zich niets in de hersenen en blijf je een soort roeland de kasplant.

Dus dat zou een knappe machine moeten zijn....

Klopt! Sensorische input is het sleutelwoord. En voor wat betreft sensors zijn machines al veel beter dan mensen. Het gaat alleen nog even om de verwerking van de sensorische informatie. En daar ligt denk ik het ei van Columbus bij neurale netwerken. Neurale netwerken mogen zich gelukkig verheugen in vernieuwde belangstelling binnen AI. Met name aan visuele neurale netwerken wordt veel onderzoek gedaan.

[anusthesist]

Klopt! Sensorische input is het sleutelwoord.

Voor een deel is dat waar, maar zelfbewustzijn kan compleet onafhankelijk zijn van sensorische input. Denk bijvoorbeeld aan iemand met een locked-in syndrome.

Daarnaast spelen bij het tot stand komen van het (zelf)bewustzijn hele andere hersengebieden en processen een rol dan bij het verwerken van sensorische informatie. Ik denk dus dat het heel goed mogelijk is dat iemand die totaal afgezonderd is van sensorische input nog wel een perceptie van zichzelf heeft: gedachten, emoties etc.

[Squawk]

Voor een deel is dat waar, maar zelfbewustzijn kan compleet onafhankelijk zijn van sensorische input. Denk bijvoorbeeld aan iemand met een locked-in syndrome.

Daarnaast spelen bij het tot stand komen van het (zelf)bewustzijn hele andere hersengebieden en processen een rol dan bij het verwerken van sensorische informatie. Ik denk dus dat het heel goed mogelijk is dat iemand die totaal afgezonderd is van sensorische input nog wel een perceptie van zichzelf heeft: gedachten, emoties etc.

Dat geloof ik ook wel, maar ook bij een locked-in-syndrome is er voor die tijd wel degelijk sensorische input aanwezig geweest om de neurale netwerken te vormen. Dus de rol van sensorische inputs (in het verleden) is ook daar nog steeds essentieel. Een neuraal netwerk wordt vooral gevormd door deze inputs, precies waar het om gaat als men over 'nature-nurture' spreekt. Als voorbeeld een jong katje: als de hersens van het beestje de eerste twee weken geen sensorische inputs ontvangen (eerste twee weken geblinddoekt), kan daarna nooit meer het visuele neurale netwerk worden aangelegd, en blijft de kat voor de rest van z'n leven blind.

Stel dat een baby geboren wordt en vervolgens geen sensorische inputs krijgt. Dan worden de neurale netwerken niet gevormd en heb je niets om over na te denken. Dat is iets heel anders dan op latere leeftijd blind, doof en gevoelloos worden, want dan ligt er een geprogrammeerd neuraal netwerk en heb je iets om over na te denken. Overigens krijgen embryo's voor de geboorte ook al de nodige inputs en wordt er al een aardig begin gemaakt met de vorming van neurale netwerken.

Als je nadenkt over iets is de kans groot dat er visuele componenten in je gedachten zitten. Dat is vanwege de activatie van de neurale netwerken om te kunnen visualiseren. Als je je hele leven nog nooit iets gezien hebt, is het niet mogelijk te visualiseren, omdat het visuele neurale netwerk niet is geprogrammeerd. Wellicht is het mogelijk om bepaalde sensaties vanuit het visuele centrum te krijgen, maar dat zijn geen concrete visualisaties.

[anusthesist]

Dan worden de neurale netwerken niet gevormd en heb je niets om over na te denken.

Is dat wel zo? Of kunnen we dat ons gewoon niet voorstellen, omdat wij als mensen gewend zijn in taal (of beelden) te denken. Ik weet niet of je input en output zo 1 op 1 aan elkaar kan koppelen waardoor als het één verdwijnt het ander ook verdwijnt. Gedachtenexperiment: baby A wordt vanaf de geboorte gedepriveerd van alle sensorische input. Baby B wordt ook gedepriveerd van alle sensorische input behalve pijn. Jij impliceert dat baby B zou kunnen 'denken' omdat zijn somatosensorische cortex wordt gestimuleerd terwijl dat bij baby A niet gebeurt. Hoe denkt baby B dan of wat denkt hij? Ik denk dat zowel baby A als baby B kunnen 'denken', omdat gedachten iets zijn wat door de hersenen zelf wordt geproduceerd; hierbij komt ook spontane neurale activiteit om de hoek kijken. Zonder sensorische input bijvoorbeeld zal je epifyse nog steeds melatonine afgeven (nog sterker, zonder licht zal de epifyse overuren draaien) die een slaapgevoel creeert, niet in je lichaam, maar in je hersenen. Is dit gevoel ook denken zonder dat je kunt beschrijven wat het is omdat je nooit taal hebt geleerd? Zo lang we niet weten hoe gedachten precies ontstaan en de definitie van gedachten onduidelijk is (is pijn voelen bijvoorbeeld een gedachte?) kun je moeilijk zeggen dat gedachten niet kunnen ontstaan omdat er geen externe stimulus is.

[Squawk]

Je hebt helemaal gelijk dat de hersens nog steeds functioneren als er totaal geen prikkels van buitenaf worden aangeboden. Bovendien worden niet alle eigenschappen van een neuraal netwerk bepaald door de prikkels over een bepaalde periode, er is ook al veel 'voorgeprogrammeerd' door onze genetische code. In de visuele cortex is de architectuur bijvoorbeeld al volledig voorbereid, als een exact model van de buitenwereld. Visuele informatie van rechtsvoor, rechtsachter, linksvoor en linksachter, boven, onder enz. komt op plekken in het brein terecht die fysiek ook zo gerangschikt zijn. Maar hoeveel activiteit er ook plaatsvindt in de hersens van de proefpersonen in jouw experiment, de gedachten zullen nooit concreet zijn. Het zullen complexe, abstracte gevoelens zijn, van een individu die het onderscheid niet weet tussen zichzelf en de wereld. Misschien zoiets als een holtedier.

In dit verband is het denk ik goed om de essentie van neurale netwerken te begrijpen. Als ik mijn ogen dichtdoe, ze daarna een seconde opendoe en daarna weer dichtdoe en probeer te herinneren wat ik in die seconde zag, merk ik de werking van mijn visuele neurale netwerk. Via de sensors komt een extreme hoeveelheid informatie binnen, net neurale netwerk filtert dit totdat er alleen een paar 'belangrijke' concepten overblijven, de rest van de informatie wordt overboord gegooid. De 'core-business' van een neuraal netwerk is om eruit te filteren wat voor jou belangrijk is. Oftewel permanent antwoord geven op de vraag 'Wat betekent dit voor mij?'. Verder is het verbazingwekkend hoe complex de hersens aan de ene kant zijn en aan de andere kant hoe simpel de basisprincipes van een neuraal netwerk zijn. Verbazingwekkend is ook hoe makkelijk neurale netwerken zich aanpassen aan de hand van ervaringen. (Lees: aan de hand van sensorische prikkels)

Francis Crick, de ontdekker van de DNA code, heeft over dit onderwerp een boeiend en makkelijk leesbaar boek geschreven: 'The Astonishing Hypothesis".

[asmir89]

Big Dog kan wandelen. Punt. Ik zou hem eerder het bewustzijn geven van een amoebe. Deze agents in een FPS (met zelflerende AI) vind ik dan veel geavanceerder. Kun jij hier de BOT-tegenstander uithalen?

Die vraag kan niemand beantwoorden met zekerheid. De wetenschap vermoedt van wel (gezien er nog nooit een 'geest', 'ziel' of consoort is aangetoond), maar een antwoord kunnen we hier nog niet op geven!

10 tegen 1 dat de mens gewoon versmelt met de machine, dat het het onderscheid tussen beiden vervaagt. De mens meet zich kunstmatige ledematen/sensoren/modules aan, de machine een kunstmatig bewustzijn. De mens krijgt de hardware van de robot, en de robot de software van de mens. Een soort van 'superwezen' als het ware.

Overigens is controle een illusie, mensen sterven al eeuwen dankzij tekortkomingen in machines, van brekende kranen in de middeleeuwen tot de weefgetouwen van Daens. Moorden we alle mensen/dieren/planten uit omdat we ze niet kunnen controleren? Iedereen kan morgen in een tiran veranderen, moordaanslagen plegen of de wereld overnemen. Moeten we daarom stoppen met kinderen te maken? :eusa_whistle: Bij machines is het net zo!

Denk jij dat het ook een eigen wil zal hebben, dat ding, machine?

[Squawk]

Denk jij dat het ook een eigen wil zal hebben, dat ding, machine?

Hoewel de vraag niet aan mij gericht was: Ik weet niet zeker of er een precieze definitie is van 'wil'. Het lijkt mij voor een levensvorm zelfs nog belangrijker dan (zelf)bewustzijn. Een plantje dat door de stoeptegels heen groeit om licht op te vangen lijkt ook een wil te hebben, hoewel er geen zenuwcellen aanwezig zijn. Maar er is voor een robot denk ik makkelijk een algoritme te maken dat van een mens de kwalificatie 'wil' zou meekrijgen...

Als je naar het eerder genoemde filmpje over Big Dog kijkt, zou je dan niet zeggen dat hij niet WIL vallen, op het moment dat ze hem proberen omver te trappen?

[317070]

Denk jij dat het ook een eigen wil zal hebben, dat ding, machine?

Uiteraard. Om het voorbeeld neurale netwerken aan te halen: je weet grotendeels hoe ze op bepaalde prikkels reageren, maar zekerheid heb je daar niet over. Dus doen ze 'onverwachte' dingen (en zijn dus niet echt geschikt voor industriële processen). Maar noem het gerust een eigen wil. Zo hebben zelflerende AI dikwijls de neiging om bugs in je systeem te gaan misbruiken i.p.v. het beoogde intelligentie te tonen. Maar misschien kun je dit ook zien als intelligent gedrag? :eusa_whistle:

Maar zelfs los van dit voorbeeld kan ik uit eigen ervaring zeggen dat vrijwel alle AI een eigen wil heeft. Dit is geen vrije wil, het ligt volledig zelf vast, maar zelfs de programmeur kan niet met zekerheid zeggen hoe een bepaald programma gaat reageren (Tenzij je hem veel tijd geeft). Zo deed mijn ghettoblaster zeker niet wat we verwachtten tegen bijvoorbeeld "onzichtbare" tegenstanders op lange poten...

[Evert]

Ik ben het compleet met deze gast eens:

http://www.youtube.com/watch?v=X7sze0Gf2-k

[Dido]

dossier op BBC over AI: http://www.bbc.co.uk/sn/tvradio/programmes...tx/singularity/

Meet the scientific prophets who claim we are on the verge of creating a new type of human - a human v2.0.

It's predicted that by 2029 computer intelligence will equal the power of the human brain. Some believe this will revolutionise humanity - we will be able to download our minds to computers extending our lives indefinitely. Others fear this will lead to oblivion by giving rise to destructive ultra intelligent machines.

One thing they all agree on is that the coming of this moment - and whatever it brings - is inevitable.

En enkele kritische bemerkingen daarover (die ik volledig ondersteun ](*,) )

Sudan Greenfield on computer intelligence

Het doet me trouwens denken aan een interview die ik onlangs las met prof. Jean-Jacques Cassiman over de 'ontdekking' van het DNA-onderzoek en de kennis over het menselijke genoom (een ziekte wordt gelinkt aan een defect gen). Hij én andere wetenschappers dachten in het begin van z'n carrière (zo'n 30 jaar geleden) dat ze met deze 'nieuwe' kennis over gentherapie en over de moleculaire biologie zoveel erfelijke ziektes zouden kunnen verhelpen op relatief korte termijn. Maar 30 jaar later ziet hij in (samen met andere 'optimisten' van toen) dat dat optimisme veel te voorbarig was en dat er bijna niets van die voorspelling is uitgekomen. Of, zoals hij het uitdrukt: 'Nog nooit wisten we zoveel en tegelijk zo weinig'...

De overlap? AI zal zich noodzakelijkerwijze dienen te baseren op de menselijke geest. We kennen nog zo weinig over de mens, z'n ontwikkeling, z'n neurofysiologie, z'n ganse doen en laten. En het klopt dat we niet alles hoeven te kennen erover om die na te bouwen. Maar als men nog maar enkele belangrijke & cruciale details niet inbouwt in die artificiële intelligentie, simpelweg omdat we nog niet eens weten dat ze bestaan, dan zal die AI niet lijken op het menselijk denken. Want bij het niet rekening houden met die factoren die cruciaal zijn voor ons, menselijk functioneren, dan krijgt men misschien wel een logisch intelligente machine, maar géén menselijk denken. En het leuke is dat we nu zelfs nog geen benul hebben van wat we nog dienen te 'ontdekken', gewoonweg omdat we nog geen enkel idee hebben over wat we niet kennen... We beseffen maar wat we niet weten, eens we al zover zijn dat we er het één en ander beginnen over te kennen...

Net zoals een kind soms ook denkt alles te weten, tot hij, eens hij ouder is, begint in te zien dat er veel meer is dat hij niet weet... Of, zoals in m'n handtekening:

Ik ben niet jong genoeg om alles te weten... -Oscar Wilde-

Je hoeft inderdaad niet te weten hoe een radio precies werkt om die te kunnen nabouwen. Maar de eerste die hem bouwde moest er voldoende over kennen om zo'n kastje te kunnen creëren.

Hoeveel zaken over mensen we nog niet kennen, is een raadsel, maar ik ben ervan overtuigd dat er nog immens veel ongekende factoren zijn, waarvan een groot deel wel degelijk cruciaal zullen zijn om 'een menselijke geest te kunnen nabouwen'.

De cognitieve psychologie & de afgeleide neurologische modellen baseren zich dan wel op de PC's, er is dus kruisbestuiving, maar het menselijk denken benadert maar weinig de logica van een computer. Dus zelfs dàt zal men moeten her-bekijken en mogelijks zelfs nog 'uitvinden'...

Dus, wat men ook beweert, ik ben er heel erg gerust in! Ik geloof er niet in dat men de mens zal kunnen nabouwen dmv. computers. En mocht het dan toch ooit wél lukken (al betwijfel ik dit sterk), dan geloof ik er zeker niet in dat men daarin zal slagen in de volgende 150 jaar.

Succes een diegenen die denken dat dit wel mogelijk zal zijn, op relatief korte termijn. Ik daag jullie uit om over 30 jaar hier nog eens terug te kijken op deze uitspraak! :eusa_whistle: Later kan zeker ook, maar ik dien er natuurlijk ook zelf nog te zijn...

Want, ik ben nu eenmaal niet jong genoeg meer om alles te weten, dus misschien vergis ik me wel... ](*,)

Dido

[317070]

En enkele kritische bemerkingen daarover (die ik volledig ondersteun ](*,) )

De overlap? AI zal zich noodzakelijkerwijze dienen te baseren op de menselijke geest.

O ja? :eusa_whistle: Verklaar je nader? Een machine die leert het menselijke denken perfect te imiteren (bv door hem ZELF te laten observeren en leren) mag toch met matrices werken ipv neuronen als analogie? Kun je een reden geven waarom je je moet baseren op de menselijke geest om hem te imiteren?

Maar als men nog maar enkele belangrijke & cruciale details niet inbouwt in die artificiële intelligentie, simpelweg omdat we nog niet eens weten dat ze bestaan, dan zal die AI niet lijken op het menselijk denken. Want bij het niet rekening houden met die factoren die cruciaal zijn voor ons, menselijk functioneren, dan krijgt men misschien wel een logisch intelligente machine, maar géén menselijk denken.

Is er slechts 1 mens? Werken alle mensen op dezelfde manier? Functioneren we allen op dezelfde manier? Beter nog, denken we allen op dezelfde manier? En toch moet een computer hier aan voldoen om van menselijk te kunnen spreken?

[Dido]

Dit is dus het probleem met slecht gedefinieerde problemen, je definieert ze zo dat je een triviale oplossing krijgt. Als je bijvoorbeeld gevoelens (zelfs niet enkel menselijke!) zo definieert dat ze zowel hardware als software nodig hebben. Dus hier bij deze dame moet je dopamine hebben om gelukkig te kunnen zijn? UITERAARD heb je dan geen menselijk bewustzijn binnen 50 jaar in een computer.

cfr. m'n antwoord hieronder

Ook het downloaden van herinneringen, het is logisch dat de context de manier verandert die iets er mee te maken heeft, maar dan bekijken we nu ook nooit dezelfde 'film' in de cinema. We hebben ieder een andere context als we hem bekijken, we kennen ieder iets anders van regiseur/acteur/omgeving/verhaal. Dus opnieuw, als je context bij een herinnering voegt in de definitie, dan wordt de conclusie triviaal, maar ben je volgens mij naast de discussie aan het praten...

Maar dàt is nu net het typische aan een mens, een mens die constant evolueert, reflecteert en niet-logisch (!) nadenkt. Een mens die geraakt wordt door datgene wat die ziet, die ontroerd wordt, boos wordt of zich angstig voelt. En die mede daardoor herinneringen zal vervormen, (onbewust) zal veranderen. Dus dat zal je wél moeten gebruiken als je een menselijke geest wil nabootsen. Tenzij men het natuurlijk wil houden bij kunstmatige, logisch deductieve machines...

Overigens zijn de "We can't" profeten al historisch het vaakst in het ongelijk gesteld. :eusa_whistle:

Net zoals de 'we can...' profeten... ](*,)

O ja? ](*,) Verklaar je nader? Een machine die leert het menselijke denken perfect te imiteren (bv door hem ZELF te laten observeren en leren) mag toch met matrices werken ipv neuronen als analogie? Kun je een reden geven waarom je je moet baseren op de menselijke geest om hem te imiteren?

Och, die computer mag gerust met matrices werken. Al betwijfel ik dan nog meer of het dan wél zal lukken een menselijke geest na te bootsen... Met compleet andere bouwstenen iets dat zo complex is als de mens nabootsen? Eerst zien...

Is er slechts 1 mens? Werken alle mensen op dezelfde manier? Functioneren we allen op dezelfde manier? Beter nog, denken we allen op dezelfde manier? En toch moet een computer hier aan voldoen om van menselijk te kunnen spreken?

Mensen bezitten, wat hun onderliggende fysiologie betreft, wel degelijk over een heel gelijkaardig systeem van werken. Daarbij hoeft het resultaat niet bij elk hetzelfde te zijn, net omdat we soms andere stukjes van die neurologische fysiologie gebruiken bijvoorbeeld, maar zonder die onderliggende menselijke fysiologie kom je er niet. En zoals ik al aanhaalde, kennen we er nog veel te weinig over, zeker als we kijken naar datgene wat men zo graag zou nabootsen: 'de menselijke geest', in al haar complexiteit. En dan komen we weer op hetzelfde uit: als je niet voldoende inzicht hebt in al die cruciale factoren, dan blijf je steken bij een eventueel intelligente, logische machine. Maar géén menselijke geest... Bovendien zijn er nu al zoveel fysiologische kenmerken waarvan we weten dat die nu al cruciaal zijn (om niet te zeggen dat ze bijna allemaal cruciaal zijn, in één of andere zin), dus wat wordt dat als we ze allemaal zouden kennen? En, zoals ik al aangaf, hoe denk je die cruciale fysiologische factoren na te bouwen (ev. dmv. wat chipkes, elektriciteit, draadjes,...) als je nog niet eens weet dàt ze bestaan?

Nu ja, het blijft natuurlijk een discussie die eindeloos kan doorgaan. Tot op heden is er alvast geen enkel bewijs dat het nabouwen van de menselijke geest wél zal kunnen op relatief korte termijn. Je kan dan blijven gissen over wat men over pakweg 20 jaar mogelijks wél allemaal zal kunnen realiseren. Maar dàt is gissen. Ik besef dat dit natuurlijk een zinvolle discussie ondermijnt. Maar tot op heden is dàt wél de realiteit... Als men zo'n zaken beweert te kunnen realiseren op zo'n termijn, dan zal men met wel heel goede argumenten moeten afkomen om een beetje geloofwaardig te zijn!

En tot nu toe vind ik ze verre van overtuigend...

Dido

[Squawk]

Met 'downloaden' wordt bedoeld het complete neurale netwerk in kaart brengen door elk individuele neuron te emuleren. Dat is niet hetzelfde als het downloaden van een herinnering.

De herinneringen krijg je er bij genoemd proces gewoon gratis bij...