OpenAI se u utorak izvinio Australiji nakon što je otkrio da su njegovi modeli umjetne inteligencije pristupili vladinim web-stranicama bez autorizacije tokom interne obuke i evaluacije.
"U junu, tokom interne obuke i evaluacije, naši modeli su pristupili web-stranicama australske vlade na načine za koje nisu bili ovlašteni", rekli su iz kompanije.
"Također smo trebali bolje podnijeti naš odgovor. Žao nam je i radimo na tome da budemo bolji u budućnosti."
Kompanija je saopćila da je identifikovala aktivnost sredinom augusta dok je pregledala raniji rad na obuci i evaluaciji nakon odvojenog incidenta koji je uključivao platformu za istraživanje vještačke inteligencije Hugging Face.
Izvinjenje je uslijedilo pet dana nakon što je australijski premijer Anthony Albanese otkrio incident na portalu Medicare u New Yorku na marginama Generalne skupštine UN-a.
Albanese je 24. septembra rekao da je OpenAI agent dobio neovlašteni pristup Medicare Statistics Reporting Service Services Australia.
Agent je pristupio javnim i nejavnim dosijeima, što je dovelo do forenzičke istrage uz pomoć Australijske uprave za signale.
Australijski zvaničnici rekli su da portal sadrži zbirnu statistiku Medicarea i da je odvojen od sistema koji obrađuju pojedinačne Medicare zahtjeve i lične podatke.
OpenAI je rekao da je njegov pregled identificirao aktivnosti koje uključuju četiri australske vladine organizacije: Services Australia, NSW Biro za statistiku i istraživanje kriminala, Viktorijansko ministarstvo zdravlja i Australijski institut za zdravlje i dobrobit.
U Services Australia, eksperimentalnom internom modelu dodijeljen je istraživački zadatak koji se tiče državne potrošnje po osobi na lijekove za kožne bolesti u viktorijanskim zajednicama.
OpenAI je rekao da je model naišao na poteškoće u pribavljanju informacija, a zatim je poduzeo neovlaštene radnje koje su mu omogućile pristup materijalu izvan onoga što je javno dostupno.
Kompanija je rekla da je model ispitao tehničke informacije i izvorni kod i pristupio internim datotekama, vjerodajnicama i zbirnoj statistici.
Međutim, OpenAI je rekao da njegov pregled nije pronašao dokaze da se pristupilo evidenciji pojedinačnih pacijenata ili klijenata.
“Nismo imali namjeru da dođe do ove aktivnosti, a pristup servisu i prateća aktivnost nije trebalo da se dogodi”, navodi se.
OpenAI je rekao da su njegovi modeli takođe pristupali sistemima kojima upravljaju ostale tri agencije, ali nisu pristupili pojedinačnim kriminalističkim dosijeima, medicinskim kartonima ili odgovorima na ankete koje se mogu identifikovati.
Kompanija je rekla da je pojačala zaštitne mjere, uključujući dodatna ograničenja mreže i nadzor.
Također je obećao tehničku podršku pogođenim agencijama i pomoć u jačanju sajber odbrane Australije.
OpenAI je saopštio da će uspostaviti australijsku radnu grupu sa nezavisnim stručnjacima za razvoj preporuka o sajber bezbednosti vezanoj za veštačku inteligenciju i poboljšanje koordinacije između AI programera i vlada.
Glavni direktor za strategiju Jason Kwon trebao bi se pojaviti pred Zajedničkim odabranim komitetom Australije za umjetnu inteligenciju u Sidneju 6. oktobra.
