Vitalik Buterin zdůrazňuje rizika AI uprostřed otřesů ve vedení OpenAI

Spoluzakladatel Etherea Vitalik Buterin se podělil o svůj pohled na „superinteligentní“ umělou inteligenci a označil ji za „rizikovou“ v reakci na probíhající změny ve vedení OpenAI. 

Bývalý vedoucí oddělení OpenAI Jan Leike rezignoval poté, co řekl, že s vedením dosáhl „bodu zlomu“ v hlavních prioritách společnosti.

Leike tvrdil, že „kultura bezpečnosti a procesy ustoupily do pozadí lesklých produktů“ v OpenAI, přičemž mnozí poukazují na vývoj kolem umělé obecné inteligence (AGI).

Očekává se, že AGI bude typem umělé inteligence, který se rovná nebo překonává lidské kognitivní schopnosti – myšlenka, která již začala znepokojovat odborníky z oboru, kteří říkají, že svět není dostatečně vybaven pro správu takových superinteligentních systémů umělé inteligence.

Zdá se, že tento sentiment je v souladu s Buterinovými názory. V příspěvku na X se podělil o své myšlenky na toto téma a zdůraznil, že lidé by neměli spěchat do akce.

Buterin zdůraznil otevřené modely, které běží na spotřebním hardwaru jako „zajištění“ proti budoucnosti, kde by malý konglomerát společností byl schopen číst a zprostředkovat většinu lidských myšlenek. 

Další příspěvek Buterina

16. května Buterin tvrdil, že model OpenAI GPT-4 prošel Turingovým testem, který určuje „lidskost“ modelu AI. Citoval nový výzkum, který tvrdí, že většina lidí nedokáže určit, kdy mluví se strojem.

Buterin však není první, kdo tuto obavu vyjádřil. Vláda Spojeného království také nedávno prozkoumala rostoucí zapojení Big Tech do sektoru AI, což vyvolalo problémy související s konkurencí a dominancí na trhu.

Skupiny jako 6079 se již objevují po celém internetu, prosazují decentralizovanou AI, aby se zajistilo, že zůstane více demokratizovaná a nebude ovládána velkými technologickými firmami.

Stalo se tak po odchodu dalšího vysoce postaveného člena vedoucího týmu OpenAI dne 14. května, kdy Ilya Sutskever, spoluzakladatel a hlavní vědec, oznámil svou rezignaci.

Sutskever nezmínil žádné obavy ohledně AGI. V příspěvku na X však vyjádřil přesvědčení, že OpenAI vyvine AGI, která bude „bezpečná a prospěšná“.