'n P(doom) ("waarskynlikheid van ondergang" ook “W(ondergang)” is 'n informele maatstaf wat gebruik word om 'n persoon se geskatte waarskynlikheid aan te dui dat gevorderde kunsmatige intelligensie tot 'n eksistensiële ramp vir die mensdom sal lei. Die presiese uitkomste in die vraag verskil van een voorspelling tot 'n ander, maar verwys gewoonlik na die eksistensiële risiko van kunsmatige intelligensie.
Die term, wat ontstaan het as 'n afkorting vir kommunikasie in die rasionalistiese gemeenskap en onder KI-navorsers, het in 2023 prominent geword na die vrystelling van GPT-4, toe hoëprofielfigure soos Geoffrey Hinton en Yoshua Bengio begin waarsku het oor die risiko's van KI. In 'n 2023-opname is KI-navorsers gevra om die waarskynlikheid te skat dat toekomstige KI-vooruitgang tot menslike uitsterwing of soortgelyke ernstige en permanente ontmagtiging binne die volgende 100 jaar kan lei. Die gemiddelde waarde van die antwoorde was 14,4%, met 'n mediaanwaarde van 5%. Citing:
Opmerklike P(doom)-waardes Naam P(doom) OpmerkingsDario Amodei10–25%Hoof- uitvoerende beampte (HUB) van Anthropic.Marc Andreessen0%Medestigter van die waagkapitaalfirma Andreessen Horowitz.Sam Altman>0%HUB van OpenAI.Yoshua Bengio20% Rekenaarwetenskaplike, direkteur van die Mila-navorsingsinstituut en ontvanger van die Turing-prys.Grady BoochOngeveer 0%Amerikaanse sagteware-ingenieur.Vitalik Buterin12%Medestigter van Ethereum.Paul Christiano50% Navorsingshoof van die Amerikaanse KI-veiligheidsinstituut.Andrew Critch85% Stigter van die Center for Applied Rationality.Lex Fridman10%Amerikaanse rekenaarwetenskaplike en aanbieder van die Lex Fridman-podsending.Demis Hassabis>0% Medestigter en HUB van Google DeepMind en Isomorphic Labs; ontvanger van die Nobelprys vir Chemie (2024).Dan Hendrycks>80% Direkteur van die Center for AI Safety.Geoffrey Hinton10–20% (alles in ag genome); >50% (persoonlike indruk)"Peetvader van KI" en ontvanger van die Nobelprys vir Fisika (2024).Holden Karnofsky50% Uitvoerende direkteur van Open Philanthropy.Lina KhanOngeveer 15%Voormalige voorsitter van die Federal Trade Commission.Daniel Kokotajlo70–80%KI-navorser en stigter van die AI Futures Project; voorheen verbonde aan OpenAI.Connor Leahy90%+Duits-Amerikaanse KI-navorser en medestigter van EleutherAI.Yann LeCun<0,01%Voorheen hoof-KI-wetenskaplike van Meta Platforms.Shane LeggOngeveer 5–50%Medestigter en hoof-AGI-wetenskaplike van Google DeepMind.Jan Leike10–90%KI-belyningsnavorser by Anthropic; voorheen by DeepMind en OpenAI.Benjamin Mann0–10%Medestigter van Anthropic.Emad Mostaque50%Medestigter van Stability AI.Zvi Mowshowitz70%Skrywer oor kunsmatige intelligensie en direksielid van die Center for Applied Rationality.Elon MuskOngeveer 10–30%Sakeman en HUB van X, Tesla en SpaceX.Casey Newton5%Amerikaanse tegnologiejoernalis.Toby Ord10%Australiese filosoof en skrywer van The Precipice: Existential Risk and the Future of Humanity.Emmett Shear5–50%Medestigter van Twitch en voormalige tussentydse HUB van OpenAI.Nate Silver5–10%Statistikus en stigter van FiveThirtyEight.Max Tegmark>90%Sweeds-Amerikaanse fisikus, masjienleer-navorser en medestigter van die Future of Life Institute.Roman Yampolskiy99,9%–99,999999%X, romanyam, RomanYampolskiy, 1767575356155027503, Tweet, 12 Maart 2024, I am at 99.999999% https://pauseai.info/pdoomLets-Amerikaanse rekenaarwetenskaplike en KI-veiligheidsnavorser.Eliezer Yudkowsky>95%Stigter van die Machine Intelligence Research Institute en skrywer van If Anyone Builds It, Everyone Dies.75%Amerikaanse professor in masjienleer en voorstander van die vermindering van risiko's verbonde aan kunsmatige intelligensie.85%Kanadese rekenaarwetenskaplike wat in probabilistiese masjienleer, generatiewe KI en KI-veiligheid spesialiseer. Beklee sedert 2021 'n -leerstoel in KI en sedert 2024 'n Schwartz Reisman-leerstoel in tegnologie en die samelewing.<1%Amerikaanse rekenaarwetenskaplike en sagteware-ingenieur; stigter van 15.ai. Die skatting verwys na die waarskynlikheid dat die mensdom teen 2100 weens KI uitgesterf sal wees, met verwagte menslike ingryping in ag geneem.
Kritiek Daar was 'n mate van debat oor die bruikbaarheid van P(doom) as 'n term, deels as gevolg van die gebrek aan duidelikheid oor of 'n gegewe voorspelling voorwaardelik is aan die bestaan van kunsmatige algemene intelligensie, die tydsraamwerk en die presiese betekenis van " ondergang ". In populêre kultuur In 2024 het die Australiese rockgroep King Gizzard & the Lizard Wizard hul nuwe platemaatskappy, genaamd p(doom) Records, bekendgestel.
Verwysings
Kategorie:Kunsmatige intelligensie