OpenAI, kunstig intelligens-selskapet som overrasket verden med sine innovasjoner, dannes et nytt sektororgan. Målet? Fremme sikker og ansvarlig utvikling av frontier AI-systemer. Dette er et viktig skritt, gitt at både regjeringer og industri er enige om at til tross forAI tilbyr enorme løfter til fordel for verden, tilstrekkelige sikkerhetstiltak er nødvendige for å redusere risikoen.
OpenAI, Anthropic, Google og Microsoft: de tre nøkkelområdene for en sikker fremtid for AI
Il Frontier Model Forum (dette er navnet) vil fokusere på tre nøkkelområder i løpet av det neste året for å støtte sikker og ansvarlig utvikling av frontier AI-modeller. Først av alt, vil identifisere beste praksis, fremme kunnskapsdeling mellom industri, myndigheter, sivilsamfunn og akademia. For det andre, vil støtte AI-sikkerhetsforskning, identifisere de viktigste forskningsspørsmålene på dette feltet. Til slutt, det vil lette informasjonsdeling mellom selskaper og myndigheter, etablere trygge og pålitelige mekanismer for å dele informasjon relatert til AI-sikkerhet og risikoer.
Les også: OpenAI introduserer Superalignment: Hvordan AI kan følge menneskelige intensjoner
En felles forpliktelse til en sikker fremtid for AI
Tallrike industriledere har uttrykt sin entusiasme for dette initiativet. Kent Walker, President for Global Affairs hos Google & Alphabet, sa: "Vi er glade for å jobbe sammen med andre ledende selskaper og dele teknisk ekspertise for å drive ansvarlig AI-innovasjon. Vi må alle jobbe sammen for å sikre at AI kommer alle til gode". Også Brad Smith, visepresident og president i Microsoft, understreket viktigheten av dette initiativet: "Bedrifter som lager AI-teknologi har et ansvar for å sikre at den er trygg, sikker og forblir under menneskelig kontroll. Dette initiativet er et kritisk skritt for å bringe teknologisektoren sammen for å fremme AI på en ansvarlig måte og møte utfordringer på en måte som gagner hele menneskeheten".
Anna Makanju, visepresident for Global Affairs ved OpenAI, fremhevet at avanserte AI-teknologier har potensial til å gi store fordeler for samfunnet. Han uttalte at realiseringen av dette potensialet krever tilsyn og styring. Han understreket viktigheten av AI-selskaper, spesielt de som jobber med de kraftigste modellene, innretter seg på felles grunnlag og fremmer gjennomtenkte og tilpasningsdyktige sikkerhetspraksis. Dette sa han, vil sikre at kraftige AI-verktøy har størst mulig fordel. Han understreket at dette er et presserende arbeid og at forumet er godt posisjonert til å handle raskt for å forbedre tilstanden til AI-sikkerhet.
