Americké technologické společnosti Microsoft, Google a xAI souhlasily, že vládě Spojených států poskytnou přístup k novým modelům umělé inteligence (AI) před jejich uvedením na trh. Oznámila to americká vláda, která tak bude moci prověřit, zda modely nepředstavují hrozbu pro národní bezpečnost.

Oznámení podtrhuje rostoucí obavy Washingtonu z rizik spojených s výkonnými AI systémy. Americké úřady chtějí v rámci předběžného přístupu k novým modelům identifikovat možné hrozby, jako například zneužití modelů ke kybernetickým útokům či vojenským účelům, píše agentura Reuters.

Dohody s firmami Microsoft, Google a xAI uzavřelo Centrum pro AI standardy a inovace (CAISI), které spadá pod americké ministerstvo obchodu. „CAISI bude provádět předběžná hodnocení a cílený výzkum, aby lépe posoudilo schopnosti nejnovější AI a posílilo bezpečnost AI,“ píše se v tiskové zprávě.

Obavy, že by se AI mohla stát výkonným nástrojem hackerů, v poslední době posílil nový model Mythos od společnosti Anthropic. Ten je údajně schopen velmi rychle identifikovat slabiny v počítačových systémech. Firma Anthropic tvrdí, že Mythos je z tohoto důvodu příliš nebezpečný, než aby jej zpřístupnila veřejnosti.

Se společností Anthropic a jejím konkurentem OpenAI se americká vláda na předběžném přístupu k AI modelům dohodla již v roce 2024.

Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články. Nyní první 2 měsíce jen za 40 Kč.

  • Veškerý obsah HN.cz
  • Možnost kdykoliv zrušit
  • Odemykejte obsah pro přátele
  • Ukládejte si články na později
  • Všechny články v audioverzi + playlist
za 40 Kč nebo za 80 Kč
Navíc mobilní aplikace
a web bez reklam