duimnael|KI voorstelling van KI-veiligheid
Kunsmatige-intelligensie- (KI-)veiligheid is 'n interdissiplinêre veld wat gemoeid is met die voorkoming van ongelukke, misbruik of ander skadelike gevolge wat uit kunsmatige-intelligensie- (KI-)stelsels kan voortspruit. Dit sluit masjienetiek en KI-belyning in, wat daarop gemik is om KI-stelsels moreel en voordelig te maak, en KI-veiligheid sluit tegniese probleme in, insluitend die monitering van stelsels vir risiko's en om dit hoogs betroubaar te maak. Behalwe vir KI-navorsing, behels dit die ontwikkeling van norme en beleide wat veiligheid bevorder.
Motiverings KI-navorsers het wyd uiteenlopende menings oor die erns en primêre bronne van risiko wat KI-tegnologie inhou – alhoewel opnames daarop dui dat kundiges hoë-gevolgrisiko’s ernstig opneem. In twee opnames van KI-navorsers was die mediaan-respondent optimisties oor KI in die algemeen, maar het 'n 5%-waarskynlikheid geplaas op 'n "uiters slegte (bv. menslike uitwissing)"-uitkoms van gevorderde KI. In 'n 2022-opname van die natuurliketaalverwerking (NLP)-gemeenskap, het 37% saamgestem of swak saamgestem dat dit aanneemlik is dat KI-besluite kan lei tot 'n katastrofe wat "ten minste so erg soos 'n algehele kernoorlog is." Geleerdes bespreek huidige risiko's van kritieke stelselfoute, PhD, De-Arteaga, Maria, Machine Learning in High-Stakes Settings: Risks and Opportunities, 2020-05-13, Carnegie Mellon Universiteit vooroordeel, en KI-geaktiveerde toesig; opkomende risiko's van tegnologiese werkloosheid, digitale manipulasie, en wapenisering; en spekulatiewe risiko's om beheer te verloor van toekomstige agente vir kunsmatige algemene intelligensie (KAI).
Sien ook Diepfop Globale Vennootskap oor Kunsmatige Intelligensie KI-Veiligheidsberaad Kunsmatige intelligensie-wapenwedloop Meganistiese interpreteerbaarheid
Verwysings
Kategorie:Kunsmatige intelligensie