In die veld van kunsmatige intelligensie (KI) is 'n hallusinasie of kunsmatige hallusinasie (ook genoem "nonsens", "konfabulasie", of "delusie") 'n reaksie wat deur KI gegenereer word en wat valse of misleidende inligting bevat wat as feitelik aangebied word. Hierdie term trek 'n los analogie met menslike sielkunde, waar 'n hallusinasie tipies valse persepsies behels. Daar is egter 'n belangrike verskil: KI-hallusinasie word geassosieer met foutief gekonstrueerde reaksies (konfabulasie), eerder as perseptuele ervarings.
Byvoorbeeld, 'n kletsbot wat deur groottaalmodelle (GTMe) aangedryf word, soos ChatGPT, kan aanneemlike, ewekansige leuens in sy gegenereerde inhoud insluit. Die opsporing en versagting van foute en hallusinasies hou beduidende uitdagings in vir die praktiese ontplooiing en betroubaarheid van GTMe in hoërisiko-scenario's, soos skyfie-ontwerp, voorsieningskettinglogistiek en mediese diagnostiek. Sagteware-ingenieurs en statistici het die spesifieke term "KI-hallusinasie" gekritiseer vir die onredelike antropomorfisering van rekenaars.
Term Oorsprong In 1995 het Stephen Thaler gedemonstreer hoe hallusinasies en fantoomervarings uit kunsmatige neurale netwerke ontstaan deur ewekansige versteuring van hul verbindingsgewigte.
In die vroeë 2000's is die term "hallusinasie" in rekenaarvisie met 'n positiewe konnotasie gebruik om die proses te beskryf om detail by 'n beeld te voeg. Byvoorbeeld, die taak om hoë-resolusie gesigbeelde uit lae-resolusie insette te genereer, word gesighallusinasie genoem.
In die laat 2010's het die term 'n semantiese verskuiwing ondergaan om die generering van feitelik verkeerde of misleidende uitsette deur KI-stelsels in take soos vertaling of objekopsporing aan te dui. Byvoorbeeld, in 2017 het Google-navorsers die term gebruik om die reaksies te beskryf wat deur neurale masjienvertalingsmodelle (NMT) gegenereer word wanneer hulle nie verband hou met die bronteks nie, en in 2018 is die term in rekenaarvisie gebruik om gevalle te beskryf waar nie-bestaande voorwerpe verkeerdelik opgespoor word as gevolg van vyandige aanvalle.
Die term "hallusinasies" in KI het wyer erkenning gekry tydens die KI-oplewing, tesame met die bekendstelling van wyd gebruikte kletsbotte gebaseer op groottaalmodelle (GTMe. In Julie 2021 het Meta tydens die vrystelling van BlenderBot 2 gewaarsku dat die stelsel geneig is tot "hallusinasies", wat Meta gedefinieer het as "versekerde stellings wat nie waar is nie". Na OpenAI se ChatGPT-vrystelling in beta-weergawe in November 2022, het sommige gebruikers gekla dat sulke kletsbotte dikwels sinloos aanneemlike, ewekansige leuens in hul gegenereerde inhoud insluit. Baie nuusagentskappe, insluitend The New York Times, het die term "hallusinasies" begin gebruik om hierdie modelle se soms verkeerde of teenstrydige reaksies te beskryf.
Sommige navorsers het 'n gebrek aan konsekwentheid in hoe die term gebruik word, uitgelig, maar het ook verskeie alternatiewe terme in die literatuur geïdentifiseer, soos verkondigings, fabrikasies en feitelike foute.
In 2023 het die Cambridge-woordeboek sy definisie van hallusinasie opgedateer om hierdie nuwe betekenis spesifiek vir die veld van KI in te sluit.
Definisies en alternatiewe duimnael|KI-hallusienasie lei tot die verkeerde bewering op 10 Augustus 2025 dat Joaquín Correa die broer van Ángel Correa is; die twee is nie verwant nie. Gebruike, definisies en karakteriserings van die term "hallusinasie" in die konteks van GTMe sluit in: "'n neiging om feite in oomblikke van onsekerheid uit te vind" (OpenAI, Mei 2023) "'n model se logiese foute" (OpenAI, Mei 2023) "inligting heeltemal geskep, maar optree asof jy feite uitspel." (CNBC, Mei 2023) "inligting opmaak" (The Verge, Februarie 2023) "waarskynlikheidsverdelings" (in wetenskaplike kontekste)
Joernalis Benj Edwards skryf in Ars Technica dat die term "hallusinasie" kontroversieel is, maar dat 'n vorm van metafoor steeds nodig is; Edwards stel "konfabulasie" voor as 'n analogie vir prosesse wat "kreatiewe gapingvulling" behels. In Julie 2024 het 'n Withuis-verslag oor die bevordering van openbare vertroue in KI-navorsing hallusinasies slegs in die konteks van die vermindering daarvan genoem. Dit is opmerklik dat die Nobelkomitee, toe hulle David Baker se Nobelpryswennerwerk met KI-gegenereerde proteïene erken het, die term heeltemal vermy het en eerder na "verbeeldingryke proteïenskepping" verwys het.
Hicks, Humphries en Slater voer in hul artikel in Ethics and Information Technology aan dat die uitset van GTMe "nonsens" is onder Harry Frankfurt se definisie van die term, en dat die modelle "op 'n belangrike manier onverskillig is teenoor die waarheid van hul uitsette", met ware stellings wat slegs per ongeluk waar is, en valse stellings wat per ongeluk vals is.
Kritiek In die wetenskaplike gemeenskap vermy sommige navorsers die term "hallusinasie" en beskou dit as potensieel misleidend. Dit is gekritiseer deur Usama Fayyad, uitvoerende direkteur van die Instituut vir Eksperimentele Kunsmatige Intelligensie aan die Northeastern Universiteit, op grond daarvan dat dit misleidend groottaalmodelle verpersoonlik en vaag is. Mary Shaw het gesê: "Die huidige mode om generatiewe KI se foute 'hallusinasies' te noem, is afgryslik. Dit antropomorfiseer die sagteware, en dit verduidelik werklike foute as op een of ander manier eienaardige eienaardighede van die stelsel, selfs wanneer hulle objektief verkeerd is." In Salon voer statistikus Gary N. Smith aan dat GTMe "nie verstaan wat woorde beteken nie" en gevolglik dat die term "hallusinasie" die masjien onredelik antropomorfiseer. Sommige sien die KI-uitsette nie as illusie nie, maar as prospektief - dit wil sê, met 'n kans om waar te wees, soortgelyk aan wetenskaplike vermoedens in die vroeë stadium. Die term is ook gekritiseer vir sy assosiasie met psigedeliese dwelmervarings.
In natuurlike taalgenerering In natuurlike taalgenerering word 'n hallusinasie dikwels gedefinieer as "gegenereerde inhoud wat feitelik voorkom, maar ongegrond is". Daar is verskillende maniere om hallusinasies te kategoriseer. Afhangende van of die uitvoer die bron weerspreek of nie van die bron geverifieer kan word nie, word hulle onderskeidelik in intrinsieke en ekstrinsieke verdeel. Afhangende van of die uitvoer die aanwysing weerspreek of nie, kan hulle onderskeidelik in geslote domein en oop domein verdeel word.
Verwysings
Kategorie:Kunsmatige intelligensie