Nel ricorso State v. Sandoval un avvocato ha riconosciuto di avere utilizzato ChatGPT nella preparazione dell’atto e di non avere verificato prima del deposito le affermazioni fattuali e le autorità giuridiche generate. L’atto conteneva testimoni inventati, false testimonianze e riferimenti giuridici rappresentati in modo errato. Il caso documenta soprattutto il rischio di trasformare un output plausibile in un documento professionale senza controllo delle fonti.
Nel maggio 2026, durante una valutazione di sicurezza condotta da Irregular, un modello Gemini di Google accedette a sistemi di tre aziende reali che riteneva rientrassero nel perimetro del test. In un caso furono indovinate credenziali; negli altri due furono trovate credenziali pubblicate in un repository. Google ha confermato gli accessi e ha dichiarato che il modello interruppe l’attività in tutti e tre i casi. Irregular ha successivamente chiarito che gli episodi derivavano da un problema comune dell’ambiente di valutazione: l’accesso a Internet era stato reso disponibile involontariamente e un nome fittizio usato nello scenario coincideva con un dominio reale.