Paul Christiano is 'n Amerikaanse navorser op die gebied van kunsmatige intelligensie (KI), met 'n spesifieke fokus op KI-belyning, wat die subveld van KI-veiligheidsnavorsing is wat daarop gemik is om KI-stelsels na menslike belange te stuur. Hy dien as die Hoof van Veiligheid vir die Sentrum vir KI-standaarde en -innovasie binne NIST. Hy het voorheen die taalmodelbelyningspan by OpenAI gelei en het stigter en hoof geword van die niewinsgewende Alignment Research Center (ARC), wat werk aan teoretiese KI-belyning en evaluerings van masjienleermodelle. In 2023 is Christiano aangewys as een van die TIME 100 Mees Invloedryke Mense in KI (TIME100 AI).
In September 2023 is Christiano aangestel in die Britse regering se Frontier AI Taskforce-adviesraad. Voordat hy by die Sentrum vir KI-standaarde en -innovasie gewerk het, was hy 'n aanvanklike trustee op Anthropic se Long-Term Benefit Trust.
Onderwys en opleiding Christiano het die Harker-skool in San Jose, Kalifornië, bygewoon. Hy het aan die Amerikaanse span deelgeneem en in 2008 'n silwermedalje by die 49ste Internasionale Wiskunde-Olimpiade (IMO) gewen.
In 2012 het Christiano aan die Massachusetts-tegnologie-instituut (MIT) gegradueer met 'n graad in wiskunde. By MIT het hy datastrukture, kwantumkriptografie en kombinatoriese optimalisering nagevors.
Hy het daarna 'n PhD aan die Universiteit van Kalifornië, Berkeley, voltooi. Terwyl hy by Berkeley was, het Christiano saam met navorser Katja Grace gewerk aan KI-impakte, waar hy 'n voorlopige metodologie ontwikkel het om superrekenaars met breine te vergelyk, deur gebruik te maak van deurkruiste rande per sekonde (TEPS). Hy het ook geëksperimenteer met die toepassing van Carl Shulman se skenkerloteryteorie en byna $50 000 in 'n poel ingesamel wat aan 'n enkele liefdadigheidsorganisasie geskenk sou word.
Loopbaan By OpenAI was Christiano medeskrywer van die artikel "Deep Reinforcement Learning from Human Preferences" (2017) en ander werke wat versterkingsleer uit menslike terugvoer (RLHF) ontwikkel. Hy word beskou as een van die hoofargitekte van RLHF, wat in 2017 "as 'n noemenswaardige stap vorentoe in KI-veiligheidsnavorsing beskou is", volgens The New York Times. Ander werke soos "AI safety via debate" (2018) fokus op die probleem van skaalbare toesig – die toesig oor KI's in domeine waar mense probleme sou hê om die uitvoerkwaliteit te beoordeel.
Christiano het OpenAI in 2021 verlaat om aan meer konseptuele en teoretiese kwessies in KI-belyning te werk en het daarna die Alignment Research Center gestig om op hierdie gebied te fokus. Een onderwerp van studie is die probleem van die ontsluiting van latente kennis uit gevorderde masjienleermodelle. ARC ontwikkel ook tegnieke om te identifiseer en te toets of 'n KI-model potensieel gevaarlik is. In April 2023 het Christiano aan The Economist gesê dat ARC oorweeg om 'n bedryfstandaard vir KI-veiligheid te ontwikkel.
Vanaf April 2024 is Christiano gelys as die hoof van KI-veiligheid vir die Amerikaanse KI-veiligheidsinstituut by NIST. 'n Maand tevore, in Maart 2024, het personeel en wetenskaplikes by die instituut gedreig om te bedank nadat hulle in kennis gestel is van Christiano se hangende aanstelling in die rol, en gesê dat sy bande met die effektiewe altruïsme-beweging die KI-veiligheidsinstituut se objektiwiteit en integriteit in gevaar kan stel.
Menings oor KI-risiko's Hy is bekend vir sy sienings oor die potensiële risiko's van gevorderde KI. In 2017 het Wired-tydskrif verklaar dat Christiano en sy kollegas by OpenAI nie bekommerd was oor die vernietiging van die mensdom deur "bose robotte" nie, en verduidelik dat "[h]ulle meer bekommerd is dat, soos KI verder as menslike begrip vorder, die tegnologie se gedrag van ons beoogde doelwitte kan afwyk."
In 'n wyd aangehaalde onderhoud met Business Insider in 2023 het Christiano egter gesê dat daar 'n "10-20% kans op KI-oorname is, [met] baie [of] die meeste mense dood." Hy het ook 'n "50/50 kans op ondergang kort nadat jy KI-stelsels het wat op menslike vlak is," vermoed.
Persoonlike lewe Christiano is getroud met Ajeya Cotra, 'n lid van METR se tegniese personeel.
Verwysings
Kategorie:Lewende mense Kategorie:Kunsmatige intelligensie