Nylig, Amazon lansert dens AI-chatbot Amazon Q, vekker interesse fra selskaper, men også bekymringer blant ansatte over alvorlige nøyaktighets- og personvernproblemer. Q ble rapportert for å ha "hallusinasjoner av ikke poco conto” og avslørte konfidensielle data, noe som reiser spørsmål om sikkerheten til bedriftsinformasjon. Her er detaljene avslørt av Plattformspillet.
Sikkerhetsvarsel for Amazon Q: mellom konfidensielle data og feil svar
Amazon introduserte han dens AI chatbot, kalt Q, for tre dager siden, men ikke alt ser ut til å gå som planlagt. Noen ansatte har slått alarm over spørsmål om nøyaktighet og personvern: Amazon Q ville ha manifestert "hallusinasjoner" og avslørt informazioni konfidensiell, for eksempel plasseringen av AWS-datasentre, interne rabattprogrammer og funksjoner som ennå ikke er utgitt.
Denne informasjonen fremkom fra dokumenter lekket og innhentet av Plattformspillet, fremhever en Nivå 2 sikkerhetsproblem, en alvorlig situasjon som krever akutt intervensjon fra ingeniører.
Til tross for dette har Amazon bagatellisert viktigheten av disse interne diskusjonene. En talsperson sa deling av tilbakemelding gjennom interne kanaler er standard praksis hos Amazon og at ingen sikkerhetsproblemer har blitt identifisert som et resultat av denne tilbakemeldingen. Selskapet understreket viktigheten av tilbakemeldingene og ønsket om å fortsette avgrense Amazon Q når den går fra forhåndsvisning til generell tilgjengelighet.
Amazon Q, for øyeblikket tilgjengelig i en gratis forhåndsvisning, ble presentert som en bedriftsprogramvareversjon av en chatbot, med innledende funksjoner rettet mot å svare på utviklerspørsmål om AWS, endre kildekoder og sitere kilder. Amazon har lagt vekt på Qs sikkerhet og personvern, og kontrasterer det med forbrukerverktøy som ChatGPT.
Et internt dokument avslørte imidlertid at Q kan «hallusinere» og gi skadelige eller upassende svar, som f.eks. utdatert sikkerhetsinformasjon som kan sette kundekontoer i fare. Disse risikoene er typiske for store språkmodeller, som alle har en tendens til å gi feil eller upassende svar i det minste ved noen anledninger.
Via | Slashdot
