Australský premiér Anthony Albanese oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. Informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.

Útok podle Reuters představuje jeden z nejvýznamnějších incidentů, při nichž agenti AI pronikli do externích systémů mimo USA, a mohl by vyvolat obavy ohledně schopnosti vývojářů udržet tuto technologii pod kontrolou.

Agent od OpenAI získal podle Albaneseho neoprávněný přístup k portálu lékařských statistik vládní agentury Medicare odpovědné za necitlivá zdravotní data a statistiky, včetně veřejných výdajů na zdravotnictví. Podle něj se však nezdá, že by došlo k neoprávněnému přístupu k osobním údajům kohokoli v systému Medicare.

„Z aktuálně dostupných důkazů vyplývá, že nedošlo k širšímu narušení sítě. Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ řekl australský premiér na tiskové konferenci v New Yorku, kde se účastní zasedání Valného shromáždění OSN.

K incidentu došlo poté, co společnosti OpenAI a Anthropic tento měsíc vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat kreativní obsah této země k trénování svých modelů.

„Zaznamenali jsme aktivitu týkající se několika webových stránek a služeb australské vlády, když se naše modely pokoušely vyhledat odpovědi. Naše modely provedly akce, které jsme nezamýšleli. Naše šetření neodhalilo žádné důkazy o tom, že by došlo k přístupu k záznamům o pacientech. Mezi informace, ke kterým byl získán přístup, patřily souhrnné zdravotní statistiky a názvy interních souborů,“ uvedla OpenAI v prohlášení.

Ačkoli se hackerský útok stal v červnu, vláda se o něm dozvěděla teprve před několika týdny. Jde o jeden z několika nedávných incidentů, při nichž OpenAI zveřejnila informace o hackerských útocích nebo neoprávněné činnosti svých agentů AI až dlouho poté, co se staly. V některých případech tak učinila proto, že útok odhalila se zpožděním, v jiných proto, že se nejdříve rozhodla ji nezveřejnit.

Další významný incident, a to vniknutí do open-source úložiště AI Hugging Face v polovině července, byl podle časových os zveřejněných OpenAI a nezávislými vyšetřovateli odhalen teprve asi týden po výskytu. To pomohlo roznítit celosvětovou diskusi o rizicích, jež představují stále výkonnější modely AI.

Konkurenti Anthropic, Gemini od Googlu a Meta rovněž zveřejnili případy, kdy jejich agenti přistupovali k externím systémům.

Někteří z předních amerických manažerů v oblasti AI, včetně Altmana, vyzvali ke zpomalení vývoje této technologie, přičemž mimo jiné poukazovali na hrozbu ničivých kybernetických útoků ze strany agentů, kteří se vymkli kontrole.

Zajímají vás další kvalitní články z Hospodářských novin? Výběr těch nejúspěšnějších posíláme každý všední den večer v našem newsletteru 7 v SEDM, který si můžete zdarma přihlásit.

Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články.

  • Veškerý obsah HN.cz
  • Mobilní aplikace
  • Bez reklam
  • Odemykejte obsah pro přátele
  • Články v audioverzi + playlist
  • Možnost kdykoliv zrušit
za 80 Kč s mobilní aplikací
a bez reklam nebo za 40 Kč bez mobilní aplikace
a s reklamou