Oppstart av kunstig intelligensforskning OpenAI lanserte tirsdag et verktøy som har som mål å forstå om en tekst er skrevet av et menneske eller en datamaskin.
ChatGPT-skapere OpenAI lanserer verktøy for å oppdage AI-genererte tekster
OpenAI, selskapet bak ChatGPT, en chatbot som er i stand til å generere menneskelignende tekst, gikk viralt etter å ha blitt utgitt for to måneder siden. Microsoft kunngjorde i forrige uke en investering på flere milliarder dollar i OpenAI og sa at de ville inkorporere oppstartens AI-modeller i sine forbruker- og bedriftsprodukter.
Siden ChatGPT debuterte i november, har noen av de største skoledistriktene i USA, inkludert New York City, forbudt AI-chatboten på grunn av bekymringer om at studenter ville bruke tekstgeneratoren til å jukse eller plagiere.
OpenAI-sjef Sam Altman sa at utdanning har endret seg tidligere med bruk av kalkulatorer og andre teknologier, men han foreslo også at selskapet kan ha en måte å hjelpe lærere med å oppdage tekst skrevet av AI.
OpenAIs nye verktøy er ikke perfekt, og selskapet sier at det fortsatt pågår og feil kan oppstå under bruk. "I vår evaluering av vårt "utfordringssett" med engelske tekster, identifiserte klassifisereren vår korrekt 26 % av teksten skrevet av AI (sann positive) som "sannsynligvis skrevet av en AI", mens 9 % av den menneskeskrevne teksten var feil merket som AI-skrevet (falske positiver),» skrev OpenAI-ansatte.
Det nye verktøyet er ikke pålitelig til å analysere artikler med færre enn 1000 tegn, og OpenAI anbefaler ikke bruk for andre språk enn engelsk. Videre kan AI-teksten oppdateres litt nok til å forhindre at klassifisereren korrekt bedømmer at det ikke er et menneskes verk.
OpenAI sier at de når ut til lærere for å diskutere ChatGPTs muligheter og begrensninger og vil fortsette å jobbe med å oppdage AI-generert tekst.
På tilbud på Amazon
