OpenAI har konseptet med Superjustering, et betydelig skritt fremover i å håndtere risikoene forbundet med superintelligens. Superintelligens, definert som den mest virkningsfulle teknologien som noen gang er oppfunnet av menneskeheten, kan bidra til å løse mange av verdens viktigste problemer. Men den enorme kraften til superintelligens det kan også være veldig farlig, noe som fører til at menneskeheten mister makten eller til og med menneskelig utryddelse.
OpenAI presenterer Superalignment: forsøket på å "justere" kunstig intelligens med menneskelig hensikt
Selv om superintelligens kan virke fjern, tror OpenAI at den kan komme dette tiåret. Håndtering av disse risikoene vil kreve bl.a. nye institusjoner for styring og løsning av superintelligens justering problemet: Hvordan kan du sikre at AI-systemer som er mye smartere enn mennesker følger menneskelig hensikt?
Foreløpig er det ingen løsning for å veilede eller kontrollere et superintelligenssystem. Gjeldende AI-justeringsteknikker de er avhengige av menneskers evne til å overvåke AI, som ikke vil skalere til superintelligens. OpenAIs mål er å bygge en automatisert innrettingssøker på menneskelig nivå. For å oppnå dette må det utvikles skalerbare treningsmetoder.
Les også: AI og AGI: Google-sjef DeepMind spår et nært forestående gjennombrudd
OpenAI setter sammen et team av beste maskinlæringsforskere og ingeniører for å jobbe med dette problemet. 20 % av datakraften som er tilgjengelig i løpet av de neste fire årene vil bli dedikert til å løse dette problemet. Målet er å løse de grunnleggende tekniske utfordringene med superintelligens justering på fire år. OpenAI inviterer alle de som har lykkes med maskinlæring til å fokusere oppmerksomheten på justering. Fruktene av denne innsatsen vil bli delt bredt, og justeringen og sikkerheten til ikke-OpenAI-modeller er viktig. Det skal sies at selskapet også vil jobbe for å forbedre sikkerheten til nåværende modeller og adressere andre risikoer som kommer fra AI.
Å løse justeringen av superintelligens krever de beste hodene i verden. OpenAI oppfordrer til tverrfaglig samarbeid og aktivt engasjement med sosiotekniske spørsmål knyttet til superintelligens justering.
