Sedmadvacetiletý britský výzkumník Jacob Coxon, který tři roky pracoval na předtrénování modelů umělé inteligence ve společnostech OpenAI a Anthropic, oznámil svůj odchod z odvětví. Ve svém rezignačním příspěvku na síti X napsal, že ani jedna z těchto dvou společností nejedná zodpovědně. Le Monde ↗
Coxon uvedl, že lidé, kteří umělou inteligenci vyvíjejí, vážně věří, že by tato technologie mohla do konce desetiletí zabít všechny lidi. Podle něj si velké firmy vyvíjející AI v podstatě zahrávají s lidskými životy a jejich jednání je nezodpovědné.
Jeho bývalý nadřízený Coxonovo rozhodnutí odejít podpořil a odhadl, že pravděpodobnost vyhlazení lidstva umělou inteligencí v nejbližších letech přesahuje deset procent. Samotný Coxon před odchodem prohlásil, že technologie může lidstvo zničit ještě před rokem 2030. SITA ↗
Obavy nevyjadřuje jen Coxon. Znepokojení nad tempem vývoje čím dál výkonnějších systémů přiznal i výzkumný ředitel společnosti OpenAI. Debata o bezpečnosti umělé inteligence se v uplynulých měsících zintenzivnila, jelikož si společnosti navzájem konkurují ve vývoji stále schopnějších modelů. Kritici v této souvislosti upozorňují na riziko takzvaného rekurzivního sebezdokonalování, tedy schopnosti umělé inteligence vylepšovat samu sebe bez dostatečného lidského dohledu, což by podle nich mohlo vést ke ztrátě kontroly nad touto technologií. Spiegel.de ↗
Výzkumník opustil Anthropic i OpenAI s varováním před zánikem lidstva
Toto shrnutí bylo vygenerováno umělou inteligencí. Může obsahovat nepřesnosti. Ověřujte informace v původních zdrojích níže.
Zdroje (7)
Anthropic-Forscher: KI Risiko für Menschen
ORF
| 12:04 09.09.
‘Gambling with our lives’: AI researcher quits Anthropic with dire warning about safety
Politico Europe
| 09:44 09.09.
Drastische Mahnungen: KI-Forscher: Künstliche Intelligenz ein Risiko für Menschen
Die Zeit
| 09:11 09.09.
Un investigador de Anthropic dimite porque asegura que la IA “puede matarnos antes de 2030”
El Pais
| 13:01 09.09.
„Sie spielen mit unserem Leben“ – Anthropic-Forscher kündigt und erhebt schwere Vorwürfe
Welt
| 11:55 09.09.
„Riskují budoucnost lidstva.“ Výzkumník OpenAI a Anthropicu varoval před superinteligencí
novinky.cz
| 10:01 09.09.
« Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie » : le chercheur Jacob Coxon, qui a travaillé pour Anthropic et OpenAI, quitte l’industrie
Le Monde
| 09:54 09.09.
🔥 Mohlo by vás zajímat
📰
Umělá inteligence
Stalo se nemožné, lídři AI chtějí zpomalit vývoj. Spiknutí, volá Trump
Sam Altman a Elon Musk patří k nejznámější hráčům na poli AI. Myšlenku Daria Amodeie na zpomalení tempa vývoje AI modelů podporují.
Umělá inteligence
Vedec odišiel z AI giganta a varuje: Vyhladenie ľudstva je reálny scenár! Vymyká sa to kontrole
Výskumník Jacob Coxon odišiel z jedného z popredných laboratórií umelej inteligencie a verejne prehovoril. Tvrdí, že vývoj AI smeruje k nebezpečnému bodu zlomu, …
📰
Umělá inteligence
Vyhladí nás AI? Človek, ktorý ju vyvíjal, varuje pre vážnym rizikom
Umelá inteligencia napreduje rýchlejšie, než mnohí očakávali. Bývalý výskumník spoločností OpenAI a Anthropic Jacob Coxon teraz varuje, že vývoj najpokročilejší …
© HotInfo
Z naší redakce původní
Vše →
Trump zakázal CNN, MS NOW a Politico vstup do Bílého domu
Babiš hájí české výdaje na obranu po kritice USA
EK zatím nechystá celoevropskou daň pro ropné firmy
Belgie prověřuje, kam šly miliony na bezpečnost Bruselu. Poslanec tvrdí, že i na výlet do Disneylandu
Nexperia po rozchodu s Čínou hledá výrobu v Indii. Spor, který loni ohrozil slovenské automobilky, se přesunul k soudům
Soudkyně vyloučila vězení pro zakladatele Magny Franka Stronacha. Trest za nemravný útok z roku 1977 vynese v prosinci
Ponožky s tváří Ratka Mladiće nesly nápis Made in Türkiye. Turecko podalo trestní oznámení, zástupce prověřené firmy tvrdí, že muže neznal
NATO poprvé sestřelilo dron nad litevským územím. Za 48 hodin jde o tři incidenty v EU a oficiální obvinění nepadlo ani jednou
