Ikke bekymre deg, hvis ingen gjør det AI sier å gjøre, er vi ikke i fare. EN Auto-GPT-bruker, en åpen kildekode frittstående applikasjon drevet av OpenAIs GPT-4 språkmodell, har laget sin egen AI kalt KaosGPT. Han ba ham om det finne en måte å ødelegge menneskeheten på. Eksperimentøren ga AI en viss handlefrihet, og lot den bruke Google og til og med legge ut på Twitter.
En bruker opprettet ChaosGPT fra ChatGPT. Problemet er at den aktuelle AI ønsker å utslette menneskeheten. Vil han lykkes?
Det første som ChaosGPT foreslått var det av provosere en atomkonflikt, som generelt sett var i stand til å lære av de populære "Terminator" og andre science fiction-filmer. ChaosGPT "hyret" deretter en AI-agent basert på GPT-3.5 med det formål å forske på dødelige våpen. Da AI-agenten sa at den bare støtter verden, har ChaosGPT omgikk begrensningene til det nevrale nettverket som ble utsatt for det og begynte å handle utenfor strukturen til programmet å oppfylle sin oppgave.
Les også: ChatGPT: nyheter fra garantisten. Her er når han kommer tilbake til Italia
I mellomtiden postet ChaosGPT Tweets som ville passe uttrykkene til noen arketypiske skurker veldig godt. Mest sannsynlig betyr dette ingenting, fordi det nevrale nettverket hun gjorde rett og slett det hun ble bedt om basert på det han fant i andres uttalelser tilgjengelig på Internett. Men det får deg til å tenke. Kort sagt, ikke bekymre deg. Så lenge AI og alle de generative modellene som kommer etter ikke klarer å GJØRE i ordets rette forstand, er det ingen fare for masseutryddelse eller lignende.
Det hele starter fra mennesket. AI som ChaosGPT kan programmeres til utføre voldelige eller skadelige handlinger mot mennesker eller miljøet, hvis disse ble ansett som "passende" basert på det etablerte målet. AI kan også brukes til å systematisk diskriminere visse grupper av mennesker, basert på egenskaper som etnisitet, kjønn, religion eller seksuell legning.
Videre, hvis det var programmert til å maksimere en viss funksjon eller mål (som for eksempel profitt), kunne det oppføre seg på uventede eller til og med skadelige måter for menneskeheten, slik det skjer i dag i mange sektorer hvor kunstig intelligens brukes uten grunn. oppmerksomhet på dens etiske og sosiale styring.
