Insideři OpenAI obviňují společnost, že upřednostňuje zisky před bezpečností

Ve vyhroceném závodě o vytvoření nejvýkonnějších modelů umělé inteligence (AI) upustili lídři v oboru Google (NASDAQ: GOOGL) a OpenAI od svého závazku k bezpečnosti, tvrdí insideři z obou společností.

V otevřeném dopise varujícím před nebezpečím nekontrolovaného vývoje umělé inteligence 13 bývalých a současných zaměstnanců společností OpenAI a DeepMind společnosti Google odhalilo, že se obě firmy zaměřují výhradně na uvádění nových produktů na trh bez ohledu na jejich dlouhodobá rizika.

Mezi třináctku patří Daniel Kokotajlo, bývalý výzkumník v oblasti řízení OpenAI, který firmu opustil v dubnu poté, co „ztratil důvěru, že se OpenAI bude chovat zodpovědně“. Kvůli bezpečnosti nedávno ze sanfranciské firmy odešli i čtyři další signatáři dopisu.

Šest ze signatářů nezveřejnilo svou identitu, protože stále pracují v OpenAI, přičemž Neel Nanda z DeepMind byl jediným aktivně zaměstnaným výzkumníkem, který svou identitu prozradil.

V dopise poukazují na to, že umělá inteligence představuje vážná rizika, včetně prohlubování stávajících nerovností, manipulace a dezinformací. Jsou také přesvědčeni, že s rychlým tempem vývoje je riziko autonomie AI – scénář, podle kterého se AI stane sebevědomou a začne intrikovat proti lidem – jasně pravděpodobné.

Kokotajlo, který skupinu organizoval, se domnívá, že scénář soudného dne již není sci-fi. Po dvou letech práce v OpenAI tvrdí, že existuje 70% šance, že AI povstane proti lidstvu.

Bezohledný vývoj umělé inteligence

Firmy zabývající se umělou inteligencí nadále odmítají potřebu upřednostňovat bezpečnost. Podle whistleblowerů mají tyto firmy k dispozici podstatné informace o rizicích, která jejich modely AI představují, ale současné předpisy je nezavazují k jejich sdílení.

„Když jsem přišel do OpenAI, nesouhlasil jsem se strategii ‚vypusťme věci do světa a uvidíme, co se stane, a pak je opravme‘,“ říká William Saunders, jeden ze signatářů, který v únoru ze společnosti odešel.

Zmíněné společnosti brojí proti whistleblowerům, kteří by rádi odhalili jejich tajemství, které chrání prostřednictvím smluv, jež nutí bývalé zaměstnance k mlčenlivosti.

Společnost OpenAI byla nedávno pranýřována za dohody o nerozvázání pracovního poměru se zaměstnanci, kteří ze startupu odešli. Na základě těchto dohod jim hrozí, že pokud o společnosti řeknou cokoli negativního, zadrží jim nárokované akcie. Generální ředitel a spoluzakladatel společnosti Sam Altman prohlásil, že o dohodě neví, ale slíbil, že ji nechá zrušit.

Například Kokotajlo mohl za to, že se proti němu postavil, přijít o 1,7 milionu dolarů z vlastního kapitálu ve startupu s obratem 80 miliard dolarů.

Nejen mladší zaměstnanci jsou znepokojeni bezohledným nasazením umělé inteligence společností OpenAI. Minulý měsíc odešel Jan Leike, šéf supervýkonného týmu společnosti, jehož mandátem byla bezpečnost AI, a zopakoval stejnou zprávu: „Bezpečnostní kultura a procesy ustoupily do pozadí před nablýskanými produkty.“

Společnost od té doby zahájila činnost nového výboru, který se má zabývat obavami o bezpečnost.

V reakci na otevřený dopis mluvčí Lindsey Heldová uvedla, že společnost OpenAI je hrdá na „naše výsledky v poskytování nejschopnějších a nejbezpečnějších systémů umělé inteligence a věří v náš vědecký přístup k řešení“.

Dodala, že společnost je vždy ochotna spolupracovat se svými zaměstnanci na zlepšení svých bezpečnostních standardů.

Bývalý bezpečnostní výzkumník společnosti OpenAI však toto prohlášení odmítl a prozradil, že společnost je pověstná tím, že propouští všechny zaměstnance, kteří zpochybňují její bezpečnostní programy.

Leopold Aschenbrenner v úterním rozhovoru prozradil, že byl propuštěn poté, co napsal dopis představenstvu OpenAI kvůli obavám z laxních bezpečnostních opatření. Aschenbrenner byl členem týmu superúřadu vedeného Leikem.

Zdroj: https://coingeek.com/openai-insiders-accuse-the-company-of-prioritizing-profits-over-safety/