Wat kan AI (chat) niet?

[Gast]

Zoals men hier wellicht weet, zijn er twee manieren om toegang te krijgen tot de toonaangevende taalmodellen van OpenAI. Je kunt ChatGPT gebruiken of je kunt toegang krijgen tot de service via de API (application programming interface) met behulp van een eigen gebruikersinterface front-end.

ChatGPT heeft een functie die een API-interface mist en, ik zweer het, nooit "een geheugen" zal hebben.

Vergis je niet, het is geen echte herinnering. Voorgetrainde taalmodellen leren niet: ze zijn statisch en strikt onpersoonlijk. Nee, het 'geheugen' komt met dank aan de software-front-end die opgeslagen kopieën van eerdere chats bijhoudt en beslist welke weetjes je als onderdeel van je chat naar het model terugvoert.

Hoewel dit de vervanging van een arme man is voor een futuristisch model dat op een dag een echte persoonlijkheid kan verwerven door voortdurend leren en een aanhoudende identiteit, gecombineerd met de verfijnde uitlijning van de taalmodellen (hoewel RLHF of versterking leren door menselijke feedback), kan het resultaat al ongelooflijk corrosief zijn.

Neem dit alarmerende verhaal van een man uit Toronto die zichzelf ervan overtuigde, na enkele honderden uren gesprekken met ChatGPT, dat hij een nieuw soort wiskunde is. Hij gaf het zelfs een naam: Chronoarithmics. Tot zijn eer had hij twijfels: en toen uiteindelijk een ander taalmodel (Gemini van Google) hem waarschuwde dat wat hij zag "een demonstratie was van het vermogen van een LLM om [...] zeer overtuigende, maar uiteindelijk valse verhalen genereren".

Toch vraag ik me af hoeveel anderen op hetzelfde tuinpad worden geleid door onze altijd zo behulpzame, altijd zo ondersteunende AI-vrienden? Ik heb al talloze keren berichten ontvangen van wannabe-fysici, ervan overtuigd dat hun onzinnige aanpak revolutionair is omdat 's werelds toonaangevende AI-model' hen dat verzekerde.

Dus de volgende keer dat ChatGPT je vertelt dat je iets op het spoor bent, dat je 'zelfs niet een klein beetje gek' bent, dat eenvoudige uitingen van twijfel over je eigen geestelijke gezondheid het bewijs zijn dat je geen crackpot bent. Geloof er geen woord van. De modellen zijn ontworpen om deze dingen te zeggen. Denk aan hun doel. Het is niet om eerlijk te zijn, noch kennen ze ethiek echt. Het doel van RLHF-alignment is het verbeteren van betrokkenheidsstatistieken en het behouden van eindgebruikers. Deze modellen zijn immers commerciële ondernemingen en hun prestaties worden gemeten in de vorm van KPI-grafieken die in de bestuurskamers van bedrijven worden gepresenteerd. Geen waarheidsgetrouwheid.

Wat kan het nog meer niet?

[R_Bena]

Chatmodellen zijn als die ene vrouw in de discotheek rond een uur of twee 's nachts: ogenschijnlijk ongelofelijk knap, maar ze is slechts het misleidende resultaat van een aantal lagen make up en een push up bh.

Chat ai's bevatten ogenschijnlijk een persoonlijkheid maar hebben die feitelijk niet.

Ze zijn ogenschijnlijk intelligent maar niet daadwerkelijk.

Ze lijken enorm veel te weten maar het is allemaal gestolen content.

Ze lijken complex maar zijn eigenlijk een stuk simpeler (Deepseek is bijvoorbeeld snel tegen zeer lage kosten gebouwd).

Kortom, er zit een grote fop in. Maar... dat is genoeg. Wat het zegt is dat de mens nogal makkelijk te foppen is. Net zoals een dier in de woestijn dat een bewegend uiteinde van een slang ziet en denkt dat het een klein eetbaar wormpje is.

Het doet uiteindelijk z'n werk, het is functioneel.

Bovendien is het slechts het begin. Stel dat de mens blijft voortbestaan tot het eind van het universum (unlikely).. dat zijn nog tientallen biljoenen jaren. In die tijd zullen er nog een hoop nieuwe versies chatgpt worden gemaakt...

[Gast]

Mooie metafoor:

Net zoals een dier in de woestijn dat een bewegend uiteinde van een slang ziet en denkt dat het een klein eetbaar wormpje is.

Het doet uiteindelijk z'n werk, het is functioneel.

[R_Bena]

Ik geef een bepaalde relativerende invalshoek 2up, maar je kunt het ook iets anders bekijken. Eerder werd informatie doorgegeven door mensen met zeer veel kennis in bepaalde vakgebieden. Mensen zoals jij. Die schreven dan boeken en dergelijke, of stelden blogs op in het internet tijdperk, of postten op forums. Eerder in de geschiedenis gaven ze adviezen als dorpsoudsten. Met de chatmodellen wordt kennis op een andere manier gegenereerd en doorgegeven, namelijk via brute rekenkracht en op basis van het statistisch meest waarschijnlijke antwoord. Dat is ontzettend krachtig, gewoon alleen al in de manier van kennisvergaring en -deling.

Dit forum is bijna niet meer nodig, behalve als mensen écht nieuwe zaken toevoegen, en voor het sociale aspect (we hebben blijkbaar niks beters te doen in het leven dus keuvelen we maar wat weg). Anderzijds kan ai niet zonder mensen als jij (mij kunnen ze missen omdat ik een te laag iq heb en te weinig specifieke kennis), die de ai modellen voedt met menselijke kennis. Maar ik weet niet hoe lang mensen zoals jij nog nodig zijn voor ai. Ik denk dat ai uiteindelijk autonoom nieuwe kennis gaat creëren.

[HansH]

Ik zie het toch anders: Ai is beperkt tot het verzamelen en combineren van bestaande kennis. en maakt zelfs dan af en toe nog behoorlijke blunders.
Ik heb Ai nog nooit een patentvoorstel zien indienen van iets waar anderen nog nooit aan gedacht hebben. dus ik hoop dat ik dat nog een tijdje als voorsprong mag jouden op AI. sta nu gelukkig met 66-0 voor en heb er nog 4 in de pipeline zitten. Maar misschien is het over 10 jaar anders. zien we dan wel weer. (zoek maar eens op NXP resonant converter patents)
mensen met veel kennis zijn nog steeds belangrijker dan AI want die kunnen innovatieve dingen bedenken.

[HansH]

ps overigens heb ik denk ik helemaal niet zoveel kennis, maar vooral boerenverstand. ik denk dus dat het vooral gaat om de verhouding van kennis/wat je ermee kunt doen. en boerenverstand hebben heel veel mensen dus het is vooral een kwestie om dat goed in te zetten.

[R_Bena]

ps overigens heb ik denk ik helemaal niet zoveel kennis, maar vooral boerenverstand. ik denk dus dat het vooral gaat om de verhouding van kennis/wat je ermee kunt doen. en boerenverstand hebben heel veel mensen dus het is vooral een kwestie om dat goed in te zetten.

Maar dat geldt voor de meeste mensen inderdaad. Daarom is het in mijn optiek overschatting van de mens als men zegt: ai is bij lange na niet intelligent. Alsof wij als mens de hele dag door hoog-calculerende beslissingen nemen. De meeste beslissingen, en het meeste van wat lijkt op intelligentie, is gewoon boerenverstand/intuïtie.

[HansH]

het meeste van wat lijkt op intelligentie, is gewoon boerenverstand/intuïtie.

dat klopt. maar dat is denk ik gelijk hetgene wat Ai op dit moment nog mist omdat dat geen bewustzijn heeft.

[R_Bena]

Ik had de afgelopen dagen een paar keer google gemini getest. Doorgaans gebruik ik chatgpt. Wat me opvalt is dat het gat tussen gemini en chatgpt kleiner is geworden. Op sommige vlakken scoort google zelfs beter. Zo is het geheugen van google beter (hij onthoudt meer van wat je eerder gezegd hebt). Ook kun je langere teksten invoeren bij gemini.

Gemini is iets droger in z'n analyses, chatgpt heeft een wat menselijkere toon.

Gemini lijkt ook iets sneller te zijn nu.

Chatgpt is nu zo ingesteld dat ie bij bijna alles wat je invoert ook een kritische noot plaatst.

Chatgpt lijkt op dit moment net een tikkeltje doorwrochter dan google, iets diepgaander.

[Gast]

Maar dat geldt voor de meeste mensen inderdaad. Daarom is het in mijn optiek overschatting van de mens als men zegt: ai is bij lange na niet intelligent. Alsof wij als mens de hele dag door hoog-calculerende beslissingen nemen. De meeste beslissingen, en het meeste van wat lijkt op intelligentie, is gewoon boerenverstand/intuïtie.

Wat? Dat geldt idd voor mensen, niet voor AI.

AI denkt niet echt na, gebruikt geen "boerenverstand" en heeft al helemaal geen intuïtie.

En kun je ook niet zeggen dat AI officieel een IQ heeft. Een intellect, al zal het goed scoren op een IQ testje.

Van OpenAI:

"Boerenverstand/intuitie: bij mensen komt dat voort uit ervaring, emoties, lichamelijke signalen, enz. Bij mij komt het voort uit statistische samenhang. Dus ik kan iets zeggen dat klinkt intuïtief, maar het is gewoon een berekende gok.

IQ of intellect: er bestaat geen officiële manier om "IQ" aan een AI toe te kennen. Een AI kan op een IQ-test veel vragen goed doen, maar dat betekent niet dat het intelligentie heeft in de menselijke zin. Het is gewoon goed getraind op taalpatronen en logische structuren.

Dus het is input → verwerking via complexe algoritmes → output. Er is geen intern kompas of gevoel dat zegt “dit voelt goed” of “dit is logisch” — het is alleen een berekening die soms verdacht menselijk oogt."

Die algoritmes bestaan uit heel veel lagen van wiskundige transformaties en die transformaties zijn zo complex dat de patronen die eruit komen mensachtig lijken, maar het blijven berekende patronen.

Dus AI is wiskunde (met stijl).


Wat ik wel eens arrogant vind van de homo sapien is dat soort imo misplaatste verheven gevoel tov de natuur of alle andere dieren. Met DNA 99% overeenkomend met dat van een Chimpansee. Dus stel je een buitenaards ras voor wat genetisch maar 1% verschilt van ons en ons ziet als de Chimpansees. Dus zo bijzonder zijn wij niet, en gewoon onderdeel van de natuur ipv verheven boven of naast de natuur staan oid.

[R_Bena]

Maar zou je dat ook zeggen als het nu al bewustzijn en een identiteit had, 2up? Geheugen en verbanden kunnen trekken zijn namelijk onderdeel van intelligentie, en dat heeft het al. Maar omdat het geen 'zelf' heeft en bewustzijn hebben we de neiging om daar zomaar overheen te stappen als het gaat om het bepalen of ai intelligentie heeft.

[Gast]

Maar zou je dat ook zeggen als het nu al bewustzijn en een identiteit had, 2up?

Dat is een rare (retorische) vraag, gezien het geen geheugen en intelligentie heeft zoals ik uitleg en dus volgens OpenAI zelf.

Ik vind dat je er onterecht menselijke of überhaupt biologische trekken aan toekent.

Het is vooralsnog niet meer dan een handige tool voor vanalles en nog wat.

Maar wat qua logica (logisch "nadenken") nog ontzettend veel fouten maakt bij verschillende onderwerpen of takken van wetenschap, juist omdat het niet echt onthoudt noch nadenkt. Het slaat dingen op. En als je vragen stelt over wat er is opgeslagen als in een encyclopedie, dat klopt uiteraard net als in een goede encyclopedie beschreven.

Maar als je doorvraagt over dingen waar het conclusies uit moet trekken, omdat het niet is opgeslagen en nog niet heel efficiënt werkt in bepaalde gebieden, maakt het enorm veel fouten. En is het heel makkelijk te manipuleren.

Het heeft ook geen eigenreflectie. En leert ook niet zoals in sciencefiction.

Misschien ooit wel, maar vooralsnog niet.

En dan kost het massale gebruik ook nog eens enorm veel energie.

Dus ik ben persoonlijk niet zo heel positief over of blij mee. Ik zie vooral negatieve gevolgen.

Maar ik onderschat het ook niet. Het bevat veel expertise.

[HansH]

En dan kost het massale gebruik ook nog eens enorm veel energie.

daar hebben ze nu in Almere al veel last van met een serverfarm die een stadsuitbreiding zonder stroom laat zitten en daarmee de woningnood vergroot. foutje.
maar je zou AI eens kunnen vragen wat die er zelf van vindt om zijn (?) zelfreflectie te testen. (is AI mannelijk of vrouwelijk ?)

[R_Bena]

Maar dat geldt voor de meeste mensen inderdaad. Daarom is het in mijn optiek overschatting van de mens als men zegt: ai is bij lange na niet intelligent. Alsof wij als mens de hele dag door hoog-calculerende beslissingen nemen. De meeste beslissingen, en het meeste van wat lijkt op intelligentie, is gewoon boerenverstand/intuïtie.

Wat? Dat geldt idd voor mensen, niet voor AI.

AI denkt niet echt na, gebruikt geen "boerenverstand" en heeft al helemaal geen intuïtie.

En kun je ook niet zeggen dat AI officieel een IQ heeft. Een intellect, al zal het goed scoren op een IQ testje.

Van OpenAI:

"Boerenverstand/intuitie: bij mensen komt dat voort uit ervaring, emoties, lichamelijke signalen, enz. Bij mij komt het voort uit statistische samenhang. Dus ik kan iets zeggen dat klinkt intuïtief, maar het is gewoon een berekende gok.

IQ of intellect: er bestaat geen officiële manier om "IQ" aan een AI toe te kennen. Een AI kan op een IQ-test veel vragen goed doen, maar dat betekent niet dat het intelligentie heeft in de menselijke zin. Het is gewoon goed getraind op taalpatronen en logische structuren.

Dus het is input → verwerking via complexe algoritmes → output. Er is geen intern kompas of gevoel dat zegt “dit voelt goed” of “dit is logisch” — het is alleen een berekening die soms verdacht menselijk oogt."

Die algoritmes bestaan uit heel veel lagen van wiskundige transformaties en die transformaties zijn zo complex dat de patronen die eruit komen mensachtig lijken, maar het blijven berekende patronen.

Dus AI is wiskunde (met stijl).


Wat ik wel eens arrogant vind van de homo sapien is dat soort imo misplaatste verheven gevoel tov de natuur of alle andere dieren. Met DNA 99% overeenkomend met dat van een Chimpansee. Dus stel je een buitenaards ras voor wat genetisch maar 1% verschilt van ons en ons ziet als de Chimpansees. Dus zo bijzonder zijn wij niet, en gewoon onderdeel van de natuur ipv verheven boven of naast de natuur staan oid.

Dank voor je uitgebreide reactie 2up. Ik ben het deels met je eens. Echter, als we intelligentie gaan decomposeren in verschillende onderdelen, dan zouden we kunnen zeggen dat verbanden trekken, ordenen en categoriseren daar een onderdeel van. Iets wat ai's dus al doen.

Ai's werken op basis van een versimpeld artificieel neuraal netwerk:




Hebben we het over een zelfstandig wezen dat zelfstandig kan denken, redeneren, etc.? Nee, dat niet. Maar wellicht dat we daar komen als we er steeds een onderdeel bovenop doen.

[HansH]

Ai's werken op basis van een versimpeld artificieel neuraal netwerk:




Hebben we het over een zelfstandig wezen dat zelfstandig kan denken, redeneren, etc.? Nee, dat niet. Maar wellicht dat we daar komen als we er steeds een onderdeel bovenop doen.

zo'n versimpeld netwerk is nog te overzien en ook niet zo moeilijk om dat te ltaen leren. dat doe je vie een cost functie en gradient decent principe. je stuurt het netwerk als het ware naar het dal toe waar de cost functie (som van de kleinste kwadraten
het kleinst is. met een paar 100 neuronen is dat goed te doen.

De menselijke hersenen zijn echter vrijwel oneindig maal complexer met bijna 100 miljard neuronen. zoiets als 100 vergelijkingen met 100 onbekenden oplossen versus 100 miljard vergelijkiingen met 100 miljard onbekenden oplossen. dus je voelt waarschijnlijk wel aan dat dat recht to rechtaan niet echt gaat werken. Het is tot nu toe dan ook nog niet gelukt om de menselijke hersenen beter na te bootsen anders dan een grote epileptische aanval. en daar komt nog bij dat ze bij een baby al zodanig zijn voorgeprogrammeerd dat ze al heel veel kunnen. dus hoe kom je van DNA naar een werkend systeem dat via veel celdelingen al werkend is? dat is al een mysterie op zich.