Connor Leahy is 'n Duits-Amerikaanse kunsmatige intelligensie-navorser en entrepreneur bekend vir die medestigting van EleutherAI en as uitvoerende hoof van die KI-veiligheidsnavorsingsmaatskappy Conjecture Hy het gewaarsku teen die eksistensiële risiko van kunsmatige algemene intelligensie en het gevra vir regulering soos "'n moratorium op KI-grens-KI-onteikkeling" wat geïmplementeer word deur 'n beperking op berekening.
Loopbaan In 2019 het Leahy GPT-2 in sy slaapkamer herskep, en later EleutherAI mede-gestig om te probeer om GPT-3 te repliseer.
Leahy is skepties oor versterkingsleer uit menslike terugvoer as 'n oplossing vir die belyningsprobleem. “Hierdie stelsels, soos hulle kragtiger word, word nie minder vreemd nie. Inteendeel, ons sit 'n mooi maskertjie op hulle met 'n glimlaggende gesiggie. As jy dit nie te ver stoot nie, bly die glimlaggende gesiggie aan. Maar dan gee jy dit 'n [onverwagte] aansporing, en skielik sien jy hierdie massiewe onderbuik van waansin, van vreemde denkprosesse en duidelik nie-menslike begrip.”
Hy was een van die ondertekenaars van die 2023 ope brief van die Future of Life Institute wat gevra het dat "alle KI-laboratoriums onmiddellik vir ten minste 6 maande die opleiding van KI-stelsels kragtiger as GPT-4 moet onderbreek."
In November 2023 is Leahy genooi om by die eerste KI-veiligheidsberaad te praat. Hy was bekommerd dat die beraad nie die risiko's van "god-agtige KI" wat voortspruit uit die KI-belyningsprobleem sou aanspreek nie, en het aangevoer dat "As jy stelsels bou wat meer bekwaam is as mense tot manipulasie, besigheid, politiek, wetenskap en alles anders, en ons beheer hulle nie, dan behoort die toekoms aan hulle, nie aan ons nie." Hy het die veldtoggroep ControlAI medestigter om te pleit dat regerings 'n pouse instel op die ontwikkeling van kunsmatige algemene intelligensie. Leahy het die regulering van kunsmatige intelligensie vergelyk met dié van klimaatsverandering, en aangevoer dat "dit nie die verantwoordelikheid van oliemaatskappye is om klimaatsverandering op te los nie", en dat regerings moet ingryp om beide probleme op te los.
Verwysings
Kategorie:Lewende mense Kategorie:Kunsmatige intelligensie