duimnael|Eliezer S. Yudkowsky in 2006. Eliezer S. Yudkowsky (/ˌɛliˈɛzər ˌjʌdˈkaʊski/ EH-lee-EH-zər YUD-KOW-skee; . 16 Februarie 2012. Timestamp 1:18. gebore 11 September 1979) is 'n Amerikaanse kunsmatige intelligensie-navorser en skrywer oor besluiteorie en etiek, veral bekend vir die popularisering van idees wat verband hou met vriendelike kunsmatige intelligensie, insluitend die idee dat daar dalk nie 'n "brandalarm" vir KI is nie. Hy is die stigter van en 'n navorsingsgenoot by die Machine Intelligence Research Institute (MIRI), 'n private navorsingsorganisasie sonder winsbejag gebaseer in Berkeley, Kalifornië. Sy werk oor die vooruitsig van 'n weghol-intelligensie-ontploffing het filosoof Nick Bostrom se 2014-boek Superintelligence: Paths, Dangers, Strategies beïnvloed.
Werk oor kunsmatige intelligensie veiligheid Doelwitleer en aansporings in sagtewarestelsels Yudkowsky se sienings oor die veiligheidsuitdagings wat toekomstige generasies KI-stelsels inhou, word bespreek in Stuart Russell en Peter Norvig se voorgraadse handboek Artificial Intelligence: A Modern Approach. Let daarop dat dit moeilik is om algemene doelwitte met die hand te spesifiseer, en Russell en Norvig haal Yudkowsky se voorstel aan dat outonome en aanpasbare stelsels ontwerp word om korrekte gedrag met verloop van tyd aan te leer:
"Yudkowsky (2008) gaan in meer besonderhede oor hoe om 'n vriendelike KI te ontwerp. Hy beweer dat vriendelikheid ('n begeerte om nie mense skade aan te doen nie) van die begin af ontwerp moet word, maar dat die ontwerpers beide moet erken dat hul eie ontwerpe foutief kan wees, en dat die robot mettertyd sal leer en ontwikkel. Die uitdaging is dus een van meganisme-ontwerp—om 'n meganisme te ontwerp vir die ontwikkeling van KI onder 'n stelsel van kontrole en teenwigte, en om die stelsels nutsfunksies te gee wat vriendelik sal bly in die lig van sulke veranderinge.
In reaksie op die kommer oor instrumentele konvergensie, dat outonome besluitnemingstelsels met swak ontwerpte doelwitte standaardaansporings sal hê om mense te mishandel, het Yudkowsky en ander MIRI-navorsers aanbeveel dat werk gedoen word om sagteware-agente te spesifiseer wat op veilige verstekgedrag konvergeer, selfs wanneer hulle doelwitte verkeerd gespesifiseer is.
Voorspelling van vermoëns duimnael|Eliezer debatteer met Steven Kenneth Bonnell II (Destiny) in 2023. In die intelligensie-ontploffingscenario wat deur I.J. Good veronderstel is, gaan goeie, rekursief selfverbeterende KI-stelsels vinnig oor van ondermenslike algemene intelligensie na superintelligent. Nick Bostrom se 2014-boek Superintelligence: Paths, Dangers, Strategies skets Good se argument in detail, terwyl hy Yudkowsky aanhaal oor die risiko dat antropomorfisering van gevorderde KI-stelsels mense die aard van 'n intelligensie-ontploffing sal laat misverstaan. "KI kan 'n skynbaar skerp sprong in intelligensie maak bloot as gevolg van antropomorfisme, die menslike neiging om te dink aan 'dorpie-idioot' en 'Einstein' as die uiterste punte van die intelligensieskaal, in plaas van byna ononderskeibare punte op die skaal van gedagtes -in die algemeen."
In Artificial Intelligence: A Modern Approach opper Russell en Norvig die beswaar dat daar bekende perke is aan intelligente probleemoplossing vanuit die rekenaarkompleksiteitsteorie; as daar sterk perke is op hoe doeltreffend algoritmes verskeie take kan oplos, is 'n intelligensie-ontploffing dalk nie moontlik nie.
Time-meningsartikel In 'n 2023-op-ed vir Time-tydskrif, het Yudkowsky die risiko van kunsmatige intelligensie bespreek en voorgestelde aksie wat geneem kan word om dit te beperk, insluitend 'n totale stop op die ontwikkeling van KIof selfs die "vernietig[ing] van 'n gevaarlike datasentrum deur lugaanval". Die artikel het gehelp om die debat oor KI-belyning aan die hoofstroom bekend te stel, wat daartoe gelei het dat 'n verslaggewer president Joe Biden 'n vraag oor KI-veiligheid tydens 'n persinligtingsessie gevra het.
Skryfwerk oor Rasionaliteit Tussen 2006 en 2009 was Yudkowsky en Robin Hanson die hoofbydraers tot Overcoming Bias, 'n kognitiewe en sosiale wetenskap-blog wat deur die Future of Humanity Institute van Oxford Universiteit geborg is. In Februarie 2009 het Yudkowsky LessWrong gestig, 'n "gemeenskapsblog wat daaraan gewy is om die kuns van menslike rasionaliteit te verfyn". Overcoming Bias het sedertdien as Hanson se persoonlike blog gefunksioneer.
Meer as 300 blogplasings deur Yudkowsky oor filosofie en wetenskap (oorspronklik geskryf op LessWrong and Overcoming Bias) is vrygestel as 'n e-boek, Rationality: From AI to Zombies, deur MIRI in 2015 MIRI het ook Inadequate Equilibria gepubliseer, Yudkowsky se 2017 e-boek oor maatskaplike ondoeltreffendheid.
Yudkowsky het ook verskeie fiksiewerke geskryf. Sy fanfiction-roman Harry Potter and the Methods of Rationality gebruik storie-elemente uit J.K. Rowling se Harry Potter-reeks om onderwerpe in die wetenskap te illustreer.Die New Yorker het Harry Potter and the Methods of Rationality beskryf as 'n hervertelling van Rowling se oorspronklike "in 'n poging om Harry se towery deur die wetenskaplike metode te verduidelik".
Persoonlike lewe Yudkowsky is 'n outodidak en het nie hoërskool of kollege bygewoon nie. Hy is grootgemaak as 'n Moderne Ortodokse Jood, maar identifiseer nie godsdienstig as 'n Jood nie.
Verwysings
Kategorie:Geboortes in 1979 Kategorie:Lewende mense Kategorie:Kunsmatige intelligensie