Vitalik Buterin: AI může překonat lidi jako „vrcholový druh“

Podle spoluzakladatele Etherea Vitalika Buterina má super pokročilá umělá inteligence (AI), která není kontrolována, „vážnou šanci“ překonat lidi a stát se dalším „vrcholovým druhem“ planety.

New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh

— vitalik.eth (@VitalikButerin) November 27, 2023

V blogovém příspěvku z 27. listopadu Buterin, kterého někteří považují za myšlenkového vůdce v kryptoměnovém prostoru, tvrdil, že AI je „zásadně odlišná“ od jiných nedávných vynálezů – jako jsou sociální média, antikoncepce, letadla, zbraně, volant a tiskařský lis – protože umělá inteligence může vytvořit nový typ „mysli“, který se může obrátit proti lidským zájmům a dodává:

„AI je nový typ mysli, který rychle nabývá na inteligenci a má vážnou šanci překonat lidské mentální schopnosti a stát se novým vrcholným druhem na planetě.“

Buterin tvrdil, že na rozdíl od klimatických změn, člověkem způsobené pandemie nebo jaderné války, superinteligentní umělá inteligence může potenciálně vyhubit lidstvo a nezanechat žádné přeživší, zvláště pokud považuje lidi za hrozbu pro své přežití. 

„Dokonce ani Mars nemusí být bezpečný,“ dodal Buterin.

Buterin citoval průzkum ze srpna 2022 od více než 4 270 výzkumníků strojového učení, kteří odhadli 5–10% šanci, že umělá inteligence zabije lidstvo.

Nicméně, zatímco Buterin zdůraznil, že tvrzení této povahy jsou extrémní, existují také způsoby, jak zvítězit.

Mozková rozhraní a technooptimismus

Buterin navrhl integraci rozhraní mozek-počítač (BCI), aby lidem nabídla větší kontrolu nad výkonnými formami počítání a poznávání založeném na AI.

BCI je komunikační cesta mezi elektrickou aktivitou mozku a externím zařízením, jako je počítač nebo robotická končetina.

Tím by se zkrátila obousměrná komunikační smyčka mezi člověkem a strojem ze sekund na milisekundy a co je důležitější, zajistilo by se, že si lidé po celém světě udrží určitý stupeň „smysluplného jednání“, řekl Buterin.

Buterin navrhl, že tato cesta by byla bezpečnější, protože lidé by mohli být zapojeni do každého rozhodnutí, které udělá stroj AI.

„Můžeme snížit motivaci přenést odpovědnost za plánování na vysoké úrovni na samotnou AI, a tím snížit šanci, že AI sama o sobě udělá něco, co je zcela v rozporu s hodnotami lidstva.“

Spoluzakladatel Etherea také navrhl „aktivní lidský záměr“ nasměrovat AI směrem, který je prospěšný lidstvu, protože maximalizace zisku ne vždy vede lidi tou nejžádanější cestou.

d/acc ideas can be compatible with lots of existing strands of thought: pic.twitter.com/bd0lVAMLMO

— vitalik.eth (@VitalikButerin) November 27, 2023

Buterin dospěl k závěru, že „my, lidé, jsme nejjasnější hvězdou“ ve vesmíru, protože jsme vyvíjeli technologii pro rozšíření lidského potenciálu po tisíce let a doufejme, že mnoho dalších přijdou.