Několik výzkumných pracovníků americké společnosti OpenAI před odvoláním šéfa podniku Sama Altmana správní radu v dopise varovalo před přelomovým objevem v oblasti umělé inteligence (AI), který by podle nich mohl ohrozit lidstvo. S odvoláním na dva informované zdroje to ve čtvrtek uvedla agentura Reuters. Dopis a objev podle nich byly klíčovými momenty před tím, než správní rada Altmana minulý týden v pátek překvapivě odvolala. Autoři dopisu na žádost o komentář nereagovali.

Nedávno jste již předplatné aktivoval

Je nám líto, ale nabídku na váš účet v tomto případě nemůžete uplatnit.

Pokračovat na článek

Tento článek pro vás někdo odemknul

Obvykle jsou naše články jen pro předplatitele. Dejte nám na sebe e-mail a staňte se na den zdarma předplatitelem HN i vy!

Navíc pro vás chystáme pravidelný výběr nejlepších článků a pohled do backstage Hospodářských novin.

Zdá se, že už se známe

Pod vámi uvedenou e-mailovou adresou již evidujeme uživatelský účet.

Děkujeme, teď už si užijte váš článek zdarma

Na váš e-mail jsme odeslali bližší informace o vašem předplatném.

Od tohoto okamžiku můžete číst neomezeně HN na den zdarma. Začít můžete s článkem, který pro vás někdo odemknul.

Na váš e-mail jsme odeslali informace k registraci.

V e-mailu máte odkaz k nastavení hesla a dokončení registrace. Je to jen pár kliků, po kterých můžete číst neomezeně HN na den zdarma. Ale to klidně počká, zatím si můžete přečíst článek, který pro vás někdo odemknul.

Pokračovat na článek

Společnost OpenAI vyvinula populární nástroj ChatGPT. Altman po vyhazovu přešel do Microsoftu, který firmu OpenAI podporuje. Když ale většina zaměstnanců OpenAI pohrozila odchodem, pokud se Altman do šéfovského křesla nevrátí, věci nabraly nový spád. Za jeho návrat do čela OpenAI lobbovali i významní investoři. Altman se tak v úterý po bouřlivém vývoji do čela firmy vrátil.

Zdroje uvedly, že dopis byl jedním z faktorů, které vedly k Altmanovu odvolání. Dalším důvodem podle nich byly obavy z komerčního využití objevu před pochopením jeho důsledků.

Společnost OpenAI věc nekomentovala. V interním dopise zaměstnancům potvrdila projekt nazvaný Q* (zkratka pro Q Star) i zmiňovaný dopis výzkumných pracovníků správní radě, uvedl jeden ze zdrojů.

Někteří zaměstnanci OpenAI se domnívají, že projekt Q* by mohl být průlomem v hledání takzvané obecné umělé inteligence (AGI), řekl jeden z nich. OpenAI definuje AGI jako autonomní systémy, které překonají člověka ve většině ekonomicky hodnotných úkolů.

Nový model byl podle téhož zdroje schopen řešit určité matematické úlohy. Výzkumníci považují matematiku za hranici vývoje generativní umělé inteligence. V současné době je generativní AI dobrá v psaní a překladu jazyka tím způsobem, že statisticky předpovídá další slovo. Odpovědi na stejnou otázku se mohou přitom značně lišit. Ovládnutí matematiky, kde existuje pouze jedna správná odpověď, by znamenalo, že by AI měla větší schopnosti uvažování, připomínající lidskou inteligenci. To by se mohlo uplatnit například v novém vědeckém výzkumu, domnívají se odborníci.

Na rozdíl od kalkulačky, která zvládne řešit omezený počet operací, dokáže AGI zobecňovat, učit se a chápat. V dopise správní radě výzkumníci upozornili na schopnosti a potenciální nebezpečí AI, uvedly zdroje.

Situace kolem OpenAI je podle ředitele České asociace umělé inteligence Lukáše Benzla jedním velkým střetnutím světa výzkumu, byznysu a napjatých vztahů mezi jednotlivci. „Diskutovaným přelomovým objevem dle dohadů není obecná AI řešící úlohy stejně dobře, nebo dokonce lépe než člověk, ale ještě schopnější AI předbíhající připravenost stávajících systémů z pohledu regulace, etiky či pracovního trhu,“ podotkl. Aktuální predikce komunity týkající se nasazení AGI přitom podle něj hovoří o roce 2031.

Pokud by výzkum v oblasti umělé inteligence skutečně postupoval takto rychle, je podle vedoucího týmu dat a AI ve firmě Creative Dock Adama Hanky možné, že by to znamenalo významnou změnu v současném chápání schopností umělé inteligence. „Přístup Sama Altmana může vyvolávat pochybnosti o tom, zda má OpenAI dostatečně na paměti etickou rovinu technologie, na jejímž rozvoji pracuje,“ podotkl.

Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články. Nyní první 2 měsíce jen za 40 Kč.

  • Veškerý obsah HN.cz
  • Možnost kdykoliv zrušit
  • Odemykejte obsah pro přátele
  • Ukládejte si články na později
  • Všechny články v audioverzi + playlist
za 40 Kč nebo za 80 Kč
Navíc mobilní aplikace
a web bez reklam