AI en morele bejegening

[Leuke gast]

Een computer heeft denk ik nog niets wat lijkt op de zelfbewustzijn van de mens.

Omdit ooit te kunnen beoordelen zouden we eerst moeten weten wat het zelfbewustzijn van de mens is.

zie bijvoorbeeld deze topic over leren in de slaap:

http://sciencetalk.nl/forum/invision/in...?showtopic=4379

heeft een mens nog wel een zelfbewustzijn als deze slaapt of onder narcose is?

Wat is zelfbewustzijn?

Als we dat weten kunnen we mischien inschatten of het wel of niet mogelijk zou kunnen zijn voor een computer.

[The Balor]

Het feit genomen dat de mens niet meer is dan een zeer ingewikkeld systeem van actie -> reactie, zal het nog lang duren voordat de computer als een mens gaat denken. Op dit moment kan een computer eigenlijk niet veel meer dan twee waardes aannemen: 0 of 1. Dit heeft tot gevolg dat een computer alleen ja of nee kent, en geen 'misschien', 'bijna' of 'toch wel'. Zo gauw als de computer dit wel kan ontvangen en verwerken, dan is de computer al een stap in de richting van de mens.

Dit is alleen niet het punt van deze topic. De stelling is:

Behandelen wij intelligente computers als een van ons, of behandelen wij ze als mindere?

Misschien moeten wij het zelfs nooit zo ver laten komen. Denk je in: de eerste 'versies' van de mens (Cromagnon, Homo...) waren vrij agressief en territoriaal. Dat was ook wel logisch, aangezien hun omgeving niet anders toeliet, maar dit neemt niet weg dat als ze intelligenter waren geweest, ze het ook op een meer subtiele manier hadden kunnen redden. Dit kan natuurlijk ook gebeuren bij de eerste versies van de K.I.'s.

Jullie mening graag.

[Leuke gast]

Het feit genomen dat de mens niet meer is dan een zeer ingewikkeld systeem van actie -> reactie, zal het nog lang duren voordat de computer als een mens gaat denken.

Zouden we het al kunnen aantonen dat een computer ooit als een mens zou kunnen gaan denken?

Op dit moment kan een computer eigenlijk niet veel meer dan twee waardes aannemen: 0 of 1. Dit heeft tot gevolg dat een computer alleen ja of nee kent, en geen 'misschien', 'bijna' of 'toch wel'. Zo gauw als de computer dit wel kan ontvangen en verwerken, dan is de computer al een stap in de richting van de mens.

Een computer kan ook prima met floating point getallen overweg. Deze getallen zijn niet alleen 0 of 1, maar hebben juist een heel groot bereik, en kunnen ook veel cijfers achter de comma.

Met Floating point getallen kan een computer analoge berekeningen uitvoeren.

Behandelen wij intelligente computers als een van ons, of behandelen wij ze als mindere?

Veel mensen zullen weigeren om intelligente computers als mens te beschouwen.

Misschien moeten wij het zelfs nooit zo ver laten komen. Denk je in: de eerste 'versies' van de mens (Cromagnon, Homo...) waren vrij agressief en territoriaal. Dat was ook wel logisch, aangezien hun omgeving niet anders toeliet, maar dit neemt niet weg dat als ze intelligenter waren geweest, ze het ook op een meer subtiele manier hadden kunnen redden.

Dat was niet verwonderlijk, het was toen een kwestie van survival of the fittest.

Dit kan natuurlijk ook gebeuren bij de eerste versies van de K.I.'s.

nee, K.I. is altijd door een mens bedacht.

main()

{

while (1)

{

char Question[];

scanf("Typ een vraag:",Question);

int Answer = 0;

int Cnt = 0;

while (Question[Cnt]!= '/0')

{

Answer+=Question[Cnt];

Cnt++;

} // while

if ( (Answer%20) < 10 )

{

printf("JA");

}

else

{

printf("NEE");

}

} // while

} // main

[The Balor]

Een computer kan ook prima met floating point getallen overweg. Deze getallen zijn niet alleen 0 of 1, maar hebben juist een heel groot bereik, en kunnen ook veel cijfers achter de comma.

Met Floating point getallen kan een computer analoge berekeningen uitvoeren.

Klopt. Daar zijn wel weer aparte programma's voor nodig.

Behandelen wij intelligente computers als een van ons, of behandelen wij ze als mindere?

Veel mensen zullen weigeren om intelligente computers als mens te beschouwen.

Dat zou goed kunnen. Ik wil alleen weten wat de forumgangers daar van vinden

Dat was niet verwonderlijk, het was toen een kwestie van survival of the fittest.

Nu niet dan? De K.I. computer die zich nu het snelst aanpast, zal het als enige overleven

Dit kan natuurlijk ook gebeuren bij de eerste versies van de K.I.'s.

nee, K.I. is altijd door een mens bedacht.

Nope, daar moet ik je ongelijk in geven. Er zijn programma's die de computer zelf aan zijn bedrading laten sleutelen (alleen in de software natuurlijk ). Die kunnen zichzelf dus 'ontwikkelen'.

[John]

Stel: de mens maakt de computers zo slim, dat ze op de mens gaan lijken. Hun intelligentie kan zich meten met de onze. Wat dan?

In eerste instantie kun je zeggen dat wij ze hebben gemaakt, dus wij beslissen wat ze wel en niet mogen. Aan de andere kant: als ze een eigen bewustzijn hebben, mogen ze dan niet zelf over hun eigen lot beslissen? Immers, ze zijn zelfstandig en kunnen een eigen leven(tje) leiden.

De vraag: behandelen wij intelligente computers als een van ons, of behandelen wij ze als mindere?

1 klein miezerig celletje in ons lichaam, dat je niet eens met het blote oog kunt zien staat gelijk aan 125 gigabyte. Een computer zal volgens mij nooit een mens kunnen overtreffen. Daarbij zal een pc ook nooit een bewustzijn krijgen. Alles wat een pc doet is geprogrammeerd. Ook als hij zichzelf verbeterd of iets dergelijks dan is dat geprogrammeerd.

[Rogier]

1 klein miezerig celletje in ons lichaam, dat je niet eens met het blote oog kunt zien staat gelijk aan 125 gigabyte. Een computer zal volgens mij nooit een mens kunnen overtreffen.

Da's dus 6103 miljard Terabyte voor een compleet mens (uitgaande van een gemiddelde van 50.000 miljard cellen in een lichaam).

Als computers dezelfde ontwikkeling blijven doormaken als ze de afgelopen dertig jaar hebben gedaan, passeren we die grens nog voor 2050

Daarbij zal een pc ook nooit een bewustzijn krijgen. Alles wat een pc doet is geprogrammeerd. Ook als hij zichzelf verbeterd of iets dergelijks dan is dat geprogrammeerd.

Het idee is dus dat dat bij de mens ook zo is

Alleen is dat "geprogrammeerde" gedeelte van de mens zó enorm veel complexer en ingewikkelder, dat het voor ons totaal onoverzichtelijk is en niet te vergelijken valt met computers. Maar da's nog slechts een kwestie van tijd.

[John]

oke, maar bij een mens kun je mij niet vertellen dat dat zo is. Wij zijn geen robotten. We kunnen doen en laten wat we zelf willen. We hebben een vrije wil en keuzes. Een computer/robot zal nooit gevoel krijgen.

[Rogier]

oke, maar bij een mens kun je mij niet vertellen dat dat zo is. Wij zijn geen robotten. We kunnen doen en laten wat we zelf willen. We hebben een vrije wil en keuzes. Een computer/robot zal nooit gevoel krijgen.

Waarom niet, is het zo onvoorstelbaar dat dingen als gevoel, keuzes, emoties, en het gevoel van het hebben van een vrije wil, uit een algoritme kan komen?

Technisch gezien kunnen we al nagaan dat gevoel en emoties in feite niets anders is dan een ingewikkeld chemisch proces in je hoofd, met hormonen, neurotransmitters, noem maar op... heel ingewikkeld allemaal en véél complexer dan alles wat we met onze huidige computers kunnen namaken. Maar in principe is er geen essentieel verschil.

[The Balor]

oke, maar bij een mens kun je mij niet vertellen dat dat zo is. Wij zijn geen robotten. We kunnen doen en laten wat we zelf willen. We hebben een vrije wil en keuzes. Een computer/robot zal nooit gevoel krijgen.

Beschrijf jou definitie van 'gevoel' eens. Je zult erachter komen dat het gevoel dat je krijgt uit jou eigen lichaam komt, aangezien jij het voelt. het is dus jouw lichaam die het gevoel 'aanmaakt'. Dit moet een computer ook kunnen, toch? Zo ingewikkeld is het creeren van zo'n 'gevoel' namelijk niet; het gevoel moet 'echt' voelen voor de computer, net zoals ons gevoel echt voor ons voelt.

En over dat doen en laten wat we zelf willen: wat brengt jou tot de keuzes die je maakt? Jou ervaring, toch? En hoe is die ervaring in jou leven ontstaan? Door jou omgeving. Je hebt je dus ontwikkeld tot de persoon die je nu bent door jou omgeving en jou reactie daarop (trial and error, survival of the fittest). Je hersenen ontwikkelen zo een zeer complex algoritme om overal op te kunnen reageren. Alles wat je nu doet is dus een direct gevolg van alles wat je ervoor hebt gedaan en van jouw algoritme(n). Als je het hiermee eens bent, ben je het ook met mij eens dat een computer dat ook kan (of in ieder geval moet kunnen), aangezien een computer zo geprogrammeerd kan worden, dat hij dingen onthoudt en later weer gebruikt.

Hieruit kun je dus simpelweg concluderen dat als de computer inderdaad zo gemaakt kan worden (en dus K.I. wordt), mag je dus eigenlijk geen onderscheid maken tussen mensen en K.I.'s, aangezien ze dezelfde soort ontwikkeling hebben doorlopen (trial and error).

Aan de andere kant: het is en blijft iets anders dan een mens, toch? Wij hebben het gemaakt, dus wij mogen er controle over hebben.

Jullie mening, graag!

[Luke]

Ik ben het met Balor eens. Het enige verschil tussen zo'n complexe computer zullen dan de materialen zijn waaruit ze opgebouwd zijn.

oke, maar bij een mens kun je mij niet vertellen dat dat zo is. Wij zijn geen robotten. We kunnen doen en laten wat we zelf willen. We hebben een vrije wil en keuzes. Een computer/robot zal nooit gevoel krijgen.

Nu wil ik hier geen discussie gaan beginnen of mensen een vrije wil hebben of niet, want dat is een andere topic. Ik ben van mening dat die vrije wil slechts een illusie is. Gaarne hier niet op in gaan, maar alleen even uitgaan van. Als deze vrij mening dan wegvalt, komen de acties die jij verricht voort uit je kennis (die weer voortkomt uit je ervaringen). Wat we bij mensen kennis noemen, noemen we bij de computers de programmering. De enige verschillen zijn nu dat de programmering veel simpeler is als de kennis van de mens en dat ze anders heten. Maar stel nu dat deze twee even complex/ingewikkeld/ontwikkeld worden. Dan is het enige verschil ertussen toch noch de naam? En dan zou een computer dus ook gevoelens kunnen krijgen? (met andere zintuigen uiteraard)

[Anonymous]

Ik kan hier wetenschappelijk gezien geen zinnig antwoord op geven. Maar als ik hier met mijn gezonde verstand over nadenk is dat onmogelijk. Een computer/robot is wat anders als een ziel. Maar goed jullie gaan er dan waarschijnlijk ook vanuit dat een mens geen ziel heeft. Dan heeft verdere discussie voor mij met jullie geen zin. Ik denk niet dat de computer ooit een bewustzijn zal krijgen, maar ja, succes met discussieren hierover.

[Leuke gast]

Een computer zal nooit gevoel krijgen.

Waarom niet, is het zo onvoorstelbaar dat dingen als gevoel, keuzes, emoties, en het gevoel van het hebben van een vrije wil, uit een algoritme kan komen?

Technisch gezien kunnen we al nagaan dat gevoel en emoties in feite niets anders is dan een ingewikkeld chemisch proces in je hoofd, met hormonen, neurotransmitters, noem maar op... heel ingewikkeld allemaal en véél complexer dan alles wat we met onze huidige computers kunnen namaken. Maar in principe is er geen essentieel verschil.

De vraag is of je hier wel zo gelijk in hebt. Ik ben het op een bepaald gebied wel met je eens. Mischien kan een tabel met vergelijk computer-mens duidelijk maken dat een mens meer inzich heeft dan enkel een neuraal netwerk met wat chemische processen.

Ik heb de volgende vragen:

Waardoor wordt het chemische proces in je hoofd opgang gezet?

Waardoor kan iemand geluk voelen, als men iets goeds doet? "Als het zo is dat als je hersenen denken dat deze iets goeds gedaan hebben, dat dan de chemische proces van geluk op gang wordt gezet, waarom zouden we dan zelf niet altijd dat chemische proces opgang kunnen zetten, dan zouden we namelijk onszelf altijd gelukkig kunnen voelen?"

Om op het juiste moment dat chemische proces op te starten van geluk te voelen, moeten we dan niet de hele gedachte van deze computer kennen?

Wat is de voorwaarde van geluks gevoel?

en zo kennen we ook nog het gevoel van:

blijdschap, verdiet, onvreden, liefde, boosheid, opgelucht, spanning

Hoe kan men AI in toom houden? Wat voor voorwaardes kan men daar voor bedenken?

Wat bepaald het karakter van de computer/mens?

Ik ben het eens dat computers meer op een natuurlijke manier keuzens gaan maken. Mensen kijken dit van de natuur af, en programmeren dit in een computer/robot.

Echter zal een computer nooit een mens worden, een computer is niet een 'levend' iets. Als men een computer als 'levend' iets gaat beschouwen, dan zou je rekenmachine ook 'levend' zijn.

Een computer is ook niet uniek, als men 2 dezelfde computer programma's gebruikt, dan zal bij dezelfde input, deze allebei dezelfde output leveren.

Een mens is 'wel' uniek. Mijn mening/evaring is dat dit verschil zit in dat de mens een 'ziel' heeft. Een computer heeft geen ziel, zelfs niet een algoritme van welke aard dan ook.

Mischien leuke inspiratie voor een SF film. Bij een computer zou men alle gedachtens kunnen copieren, om vervolgens op een andere plek ten uitvoeren te brengen.

[emphyrio]

Ik denk dat het niet zozeer aan de capaciteiten van de computer ligt, maar aan ons vermogen om ons in die pc te willen of kunnen verdiepen. Wat is nu slim? Een beest is vaak slim. En toch mishandelen wij velen in de bio industrie. Okee, ze kunnen niet denken als een mens. Maar is dat de maatstaf voor inlevingsgevoel? Als een computer voor mij herkenbaar emoties of gevoelens zou kunnen overbrengen - en beesten kunnen dat - dan neem ik die pc serieus. Er is iets wat men de turingtest noemt. Het luidt dat een computer kan denken als een mens, als een mens niet kan uitmaken of het een computer is. Dus je laat iemand vragen stellen en diegene weet niet of het een pc is of een mens. En als diegene zegt: "het is een mens of een computer, maar ik kan het onderscheid niet maken', dan is het een denkende pc. Die test gaat er dus van uit dat het niet gaat hoe iets of iemand in elkaar zit, maar dat het gaat om het gedrag. Misschien moet je de robotromans van Asimov eens lezen. Daarin zijn robots menselijk, maar toch weer net niet.

[Knownothing]

Ik denk niet dat Turing ervan uit ging dat het gedrag de essentie is. Eerder dat hij een praktische manier beschreef om te testen. Een van de voordelen van zijn test is bijvoorbeeld dat hij geen strikte definitie nodig heeft van wat een computer is en wat een mens is. Je vindt zijn boeiend artikel uit 1950 (!) "computing machinery and intelligence" vast wel ergens op het web, als je het wil lezen. Of dat heb je misschien al gedaan in het kader van je onderzoek? Er staan leuke dingen in zoals

The criticism that a machine cannot have much diversity of behaviour is just a way of saying that it cannot have much storage capacity. Until fairly recently a storage capacity of even a thousand digits was very rare.

[The Balor]

Een computer is ook niet uniek, als men 2 dezelfde computer programma's gebruikt, dan zal bij dezelfde input, deze allebei dezelfde output leveren.

Het zit hem in die imput; de imput kan nooit hetzelfde zijn.

Zie: http://order.ph.utexas.edu/chaos/index.html , lesson 5, 5-10

Wat je ook doet, zelfs computers kunnen een ander resultaat geven bij, wat lijkt, dezelfde ingevoerde waarden.

Ergo; computers ontwikkelen zich individueel, elke computer is anders, net als de mens. Als de computer K.I. wordt, geeft hij bij invoer van complexe waarden (bijvoorbeeld als er tegen hem gesproken wordt) steeds verschillende waarden. Alle dingen die hij daarna doet, zijn ook weer anders, omdat hij bij zijn vorige uitvoer misschien meer energie heeft gebruikt en daarom nu wat trager is. Misschien geeft hij daarom wel een heel ander antwoord!

Dat is iets, wat bij de mens ook gebeurt; als iemand jou een vraag stelt, en iemand anders stelt dezelfde vraag 5 minuten later, vertel jij een iets ander verhaal dan bij de eerste keer.

Conclusie: K.I. computers geven bij complexe invoer een wijd scala aan uitvoer, net als de mens. Dit heeft invloed op hoe de computer zich verder ontwikkeld. K.I. heeft dus een menselijk trekje.