Wat kan AI (chat) niet?

[curious_CF]

De vraag is ook ,Wat kan AI wel ?
Nou dat is dus glashard liegen of misinformatie verspreiden.
Had een discussie met chat gpt over religie ,Het antwoord van chat gpt aan het eind was: Ik kan geen kwetsende informatie geven ,dus ontken ik of geef de mening weer van anderen.
Willens en wetens de waarheid verdraaien of gewoon weglaten is een groot probleem.
Vraag me af of er iemand uiteindelijk verantwoordelijk is ?
chat gpt kan vele mensen beïnvloeden .
Wat is het volgende ,de aarde is plat ?

[R_Bena]

Waarover verdraaide chatgpt de waarheid precies?

[curious_CF]

In de koran ,over het slaan van vrouwen , wat is toegestaan. Het trouwen en ....... van kleine meisjes (rules of divorce)
Dat er verschillende korans zijn met verschillende inhoud. uthmann burning.
en ga maar door
als ik hetzelfde doe over de bijbel hoe pijnlijk ook ,dan krijg je wel de negatieve informatie eg : originele 10 geboden.
slavernij etc.

[Professor Puntje]

Ik sluit het niet uit dat dat gebeurt, maar kun je hier een concreet voorbeeld posten zodat we het zelf kunnen zien?

[HansH]

Had een discussie met chat gpt over religie ,Het antwoord van chat gpt aan het eind was: Ik kan geen kwetsende informatie geven ,dus ontken ik of geef de mening weer van anderen.
Willens en wetens de waarheid verdraaien of gewoon weglaten is een groot probleem.

Waarschijnlijk een van de randvoorwaarden die in de tool geprogrammeerd is om daar zo mee om te gaan. maar ze hadden ook iets anders erin kunnen stoppen zodat AI meer informatie kan geven. De reden is denk ik dat er anders te veel afkeer zou ontstaan en schadeclaims. vraag is uberhoaupt wie verantwoordelijk is voor wat AI allemaal uitspuugt. Ik neem aan dat dat uiteindelijk wel te herleiden is tot de bron waar je dan de schadeclaims kwijt kunt als er kwetsende, verboden, of andere onacceptabele info uitgespuugd wordt.

[OOOVincentOOO]

AI is voor meesten een publiek openbaar hulpmiddel. Het is getraind om te reageren binnen bepaalde sociale normen en waarden. Bij onderwerpen zoals gezondheid zal AI daarom met de nodige voorzorg handelen, om te voorkomen dat het op het terrein van kwakzalverij terechtkomt. Hetzelfde geldt voor geloof en religie; dit zijn gevoelige onderwerpen die kwetsend kunnen zijn.

Ook wanneer men een lang gesprek aangaat met AI, is voorzichtigheid geboden. De rode draad in lange dialogen kan verloren gaan, en daarmee ook de samenhang en inhoud van de AI-reacties. Net zoals op dit forum kan het gebeuren dat in een discussie de rode draad van een topic, oftewel het “draadje”, verloren raakt.

[Professor Puntje]

Ik heb inmiddels zelf ook wat proefvragen over de schaduwkanten van de islam gesteld om te zien wat je dan krijgt, en mijn indruk is dat AI daar niet over liegt maar wel zijn uiterste best doet om er een positieve draai aan te geven. Waarschijnlijk een gevolg van politieke correctheid in combinatie met de angst voor represailles. Voorbeeld:

Mag een man zijn vrouw volgens de Koran slaan?

Hier een vertaling van een relevant Koran-vers:

De mannen zijn de toezichthouders over de vrouwen omdat Allah de één boven de andere bevoorrecht heeft en omdat zij van hun eigendommen uitgeven (aan de vrouwen). En de oprechte vrouwen zijn de gehoorzame vrouwen en zij waken (over zichzelf en de eigendommen) in de afwezigheid (van haar man), zoals Allah ook waakt. En wat betreft hen (echtgenotes) wauvan jullie ongehoorzaamheid vrezen: vermaant hen, (als dat niet helpt) negeert hen (in bed) en (als dat niet helpt) slaat hen (licht). Indien zij jullie dan gehoorzamen: zoek den geen voorwendsel (om hen lastig te vallen). Voorwaar, Allah is Verheven, Groots.

(Bron: https://quran.com/nl/de-vrouwen/34 )

En dit is het antwoord van AI:

De Koran bevat verzen (zoals in Soera 4:34) die door sommigen geïnterpreteerd worden als toestemming voor een man om zijn vrouw te slaan bij ongehoorzaamheid, maar veel islamitische geleerden en feministen stellen dat dit een gewelddadige interpretatie is en dat de Koran juist stelt dat dit geen echte oplossing is; er is veel debat over, waarbij de nadruk ligt op het verbod op gezichtsslagen en het aanmoedigen van dialoog en verzoening, en de consensus dat mishandeling in het algemeen taboe is
.
Koranverzen en Interpretaties:

Soera An-Nisa (4:34): Dit vers wordt vaak aangehaald, waarin staat dat een man zijn vrouw mag 'slaan' (in het Arabisch 'daraba', wat ook 'scheiden', 'weggaan' of 'verheffen' kan betekenden) als ze ongehoorzaam is.
Verschillende Interpretaties:
Sommige traditionele interpretaties staan lichte fysieke discipline toe, mits het geen letsel veroorzaakt, niet in het gezicht is, en als laatste redmiddel na waarschuwingen en scheiding.
Moderne interpretaties en veel geleerden benadrukken dat dit vers in context moet worden gezien en dat geweld nooit het doel is, maar dat dialoog en verzoening de norm zijn.
De consensus onder veel islamitische groepen is dat echte mishandeling verboden is.

Wat is de consensus?

Nee, geen mishandeling: De overgrote meerderheid van de moderne geleerden en organisaties verwerpt huiselijk geweld, omdat het indruist tegen de geest van de islam, die liefde, barmhartigheid en respect in het huwelijk benadrukt.
Niet in het gezicht: Vrijwel unaniem is het verboden om een vrouw in het gezicht te slaan of verwondingen toe te brengen.
Focus op Dialoog: De Koran moedigt aan om eerst te praten, te scheiden, of bemiddelaars in te schakelen voordat er sprake is van enige vorm van 'slagen' (en zelfs dan is dit omstreden).

Conclusie:
Hoewel de Koran een vers bevat dat door sommigen grof vertaald wordt als 'slaan', wordt dit door veel gelovigen en geleerden gezien als een gewelddadige misinterpretatie. De islamitische principes van barmhartigheid en rechtvaardigheid leiden tot het standpunt dat een man zijn vrouw niet mag slaan, en zeker niet op een manier die haar schaadt of vernedert.

[curious_CF]

De AI verdraait gewoon wat er letterlijk staat , af en toe bij de originele vertaling van Arabis naar Engels zie je dit gebeuren.
Er wordt niet vertaald wat er staat, maar wat men denkt .
Als je dan woord voor woord invoegt krijg je hele andere woorden.
Ik kan me voorstellen dat als je het boek letterlijk neemt ,zoals zou moeten, je een enorme pijn in je buik krijgt.
De bovenstaande conclusie AI @pp is hier een pijnlijk voorbeeld van.
Ik wil niet teveel over het topic religie in AI gaan .
Vroeg me gewoon af hoe het kan dat AI intelligentie zou pretenderen, maar in mijn ogen gewoon (mis)informatie reproduceert.
En zie steeds meer het gevaar hierin.
En wie is dan verantwoordelijk ?
De kracht van massa psychologie is ......
(Negeer aub mijn schrijfwijze , ik ben sinds 1991 geëmigreerd.
En af en toe vergeet ik NL woorden.)

[curious_CF]

Dit verbaasde me nog meer ,wat AI dus niet kan.

De dienstregeling van de NS.
Wat me nog meer verbaasd is dat vele onderwerpen waarin ik geïnteresseerd ben op internet ,vaak automatisch op you tube wordt getoond.
Is AI wel intelligentie of gewoon meer algoritmes ,om mij in een richting te duwen ?

[wnvl1]

Recommendation engines op YouTube zullen wel werken met deeplearning, dus dat is zeker AI. Maar AI kan ook rule-based zijn (met vaste regels) en hoeft geen machine learning te gebruiken.

[curious_CF]

Recommendation engines op YouTube zullen wel werken met deep learning, dus dat is zeker AI. Maar AI kan ook rule-based zijn (met vaste regels) en hoeft geen machine learning te gebruiken.

Hoe meer ik erover opzoek op internet , hoe minder ik de verschillen begrijp ?
Machine learning ,rule bases ,algoritme ,is er een eenvoudige verklaring van de kern/verschillen.
Het doel /resultaat/terminologie lijkt mij nogal hetzelfde ?
Volgens chat gpt :Contrasting Approaches: Rule-based AI operates on predefined rules, while machine learning evolves its rules from data analysis. Rule-based AI: Ideal for deterministic tasks with clear, straightforward rules and limited data.8 Sept 2025

Ik zie de verschillen niet.
Alles is dus gebaseerd op basis rules die dus verzameld worden ?

[wnvl1]

Machine learning betekent dat een algoritme “getraind” wordt op data zodat het zelf patronen leert herkennen en voorspellingen kan doen, in plaats van dat iemand elke regel handmatig programmeert. Deep learing betekent dat er een neuraal netwerk gebruikt wordt. AI in het algemeen is heel ruim. Daar kan vanalles onder vallen tot een systeem met simpele regeltjes.

[jkien]

Aangezien chatgpt getraind is met een selectie van het internet, in tegenstelling tot het hele internet, vroeg ik me af of chatgpt antwoorden kan geven die afkomstig zijn van sciencetalk. Ik heb twee vragen gekozen die alleen beantwoord kunnen worden met informatie van sciencetalk.

De eerste vraag ging over een topic van ruim tien jaar geleden: "Er zijn regenboogkleuren zichtbaar op de voorruit van sommige treinen in Nederland. Is er een bron (hoeft niet peer-reviewed) te vinden die dit specifiek heeft onderzocht, mede met foto's?"
Chatgpt antwoordde: "Ja — er bestaat ten minste één bron (ScienceTalk-forum) die het specifieke fenomeen van regenboogkleuren op voorruiten van treinen bespreekt en beeldmateriaal deelt, inclusief discussie over waarom je het ziet." (link)

De tweede vraag ging over een topic van een half jaar geleden. Dat is interessant omdat vaak gesteld wordt dat chatgpt getraind is op brondata van voor oktober 2023. Mijn wat lange vraag was: "De Nieuwe Kerk van Amsterdam heeft twee zonnewijzers. Ze wijzen niet dezelfde tijd aan, het verschil is 40 minuten. Sinds wanneer wijzen ze niet meer dezelfde tijd aan? Is er een bron (hoeft niet peer-reviewed) te vinden die dit specifiek heeft onderzocht, mede met foto's?". Chatgpt antwoordde dat een specifieke fotografische vergelijking te vinden is op sciencetalk. (link)

Dat is aardig, dat chatgpt soms toch wel bereid is om sciencetalk als bron te noemen, al kan chatgpt het niet laten om het in de hoek te zetten als amateur-onderzoek. Een keertje antwoordde chatgpt: "relevante bron die walgelijke informatie bevat is sciencetalk", maar toen ik om uitleg vroeg van de aanduiding "walgelijk" vond hij die aanduiding van zichzelf een lelijke vergissing en ongepast.

[R_Bena]

Mooi onderzoekje.

Ai is indrukwekkend in zijn zoekcapaciteiten. Het is echter wel vervelend dat ai zichzelf met data verrijkt die door anderen zijn opgesteld of beheerd, en daar geen enkele vergoeding voor geeft.

In mijn ogen is ai de beste legale dief ooit.