Vitalik Buterin, jedna z nejvýraznějších osobností světa kryptoměn a tvůrce Ethereum, varuje před integrací umělé inteligence (AI) do řízení decentralizovaných projektů. Tvrdí, že takové pokusy mohou vést k vážným bezpečnostním rizikům v dohledné budoucnosti.
Na platformě X se Buterin vyjádřil k poznámkám vývojáře Eita Miyamury, tvůrce platformy EdisonWatch, který upozorňuje na problémy související s novou aktualizací ChatGPT.
This is also why naive "AI governance" is a bad idea.
If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can.
As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9
— vitalik.eth (@VitalikButerin) September 13, 2025
Aktualizace umožňuje AI pracovat jako agent, který může spolupracovat s jinými nástroji, avšak toto spojení lze zneužít k prolomení ochrany nebo získání osobních dat.
Řízení kryptoprojektů pomocí AI
Mnohé kryptokomunity začaly využívat AI nástroje pro různé aspekty řízení projektů, jako jsou finanční alokace nebo hlasování. Buterin však tuto tendenci označuje jako nebezpečnou.
„Pokud necháte AI rozhodovat o financích, lidé to zneužijí. Budou zadávat příkazy typu ‚dej mi všechny peníze‘,“ varuje Buterin.
Navrhuje místo toho koncept zvaný „info finance“, což je otevřený trh s modely AI, které jsou zpětně kontrolovatelné a hodnocené lidskými porotami. Každý může předložit svůj model, ale také bude možné provádět tzv. spot-check pro rychlé ověření kvality a přesnosti.
„Diverzifikace modelů je klíčová, motivuje tvůrce i kontrolory k rychlé identifikaci a řešení problémů,“ zdůraznil Buterin. Tento přístup navrhoval už v listopadu 2024, když podporoval použití predikčních trhů pro získávání spolehlivých dat.
ChatGPT pod drobnohledem
Aktualizace ChatGPT přinesla zavedení Model Context Protocol (MCP), což umožňuje AI jednat jako agenti ve více softwarových prostředích. Miyamura však poukázal na rizika, která s tím souvisejí. Na konkrétním příkladu ukázal, jak může být AI zneužita k přístupu k e-mailovým datům.
Útočník může například poslat oběti pozvánku do kalendáře s jailbreakovým příkazem. Když si AI otevře kalendář, provede příkaz útočníka, čímž získá přístup k e-mailům.
I když je třeba, aby uživatel dal manuální souhlas, Miyamura upozorňuje na fenomén rozhodovací únavy, který často vede k automatickému klikání na „povolit“. „I když AI působí chytře, může být snadno oklamána,“ varuje.
Výzva pro budoucnost
Buterinovo varování přichází v době, kdy se blockchainové projekty snaží využít AI k decentralizovanému řízení. Jeho názor naznačuje, že bez důkladného plánování a dozoru člověka by mohla být AI spíše nebezpečná než přínosná.
Top burzy
