Виталик Бутерин предупреждава, че AI агентите могат да крадат данни и да променят настройки без знанието на потребителя

Ethereum съосновател Виталик Бутерн предупреди, че съвременните системи с изкуствен интелект представляват сериозни рискове за поверителността и сигурността и призова за преминаване към инфраструктура с изкуствен интелект, ориентирана към местни условия. 

В подробна публикация в блогаБутерин заяви, че облачните инструменти за изкуствен интелект предоставят на външни сървъри достъп до чувствителни потребителски данни и че по-новите системи с AI агенти могат да предприемат действия без потвърждение от потребителя, включително промяна на системните настройки и изпращане на данни до външни сървъри без видима индикация за потребителя.

За какви рискове за сигурността предупреждава Бутерин?

Притесненията на Бутерин надхвърлят общата поверителност. Той идентифицира специфични, документирани рискове, свързани с начина, по който агентите с изкуствен интелект работят на практика.

Изследователите по сигурност вече демонстрираха няколко от тези уязвимости в реални условия:

• Агент с изкуствен интелект е бил инструктиран да обобщи уеб страници, една от които е била злонамерена. Страницата е инструктирала агента да изтегли и изпълни shell скрипт, давайки на външна страна контрол над системата.
• Установено е, че някои инструменти за агенти изпълняват безшумни мрежови заявки, които изпращат потребителски данни към външни сървъри без никакво уведомление до потребителя.
• Приблизително 15% от уменията на агентите, прегледани от изследователите, съдържаха злонамерени инструкции.

Бутерин посочи и рискове, които са по-трудни за откриване. Някои модели могат да съдържат скрити задни вратички - функции, вградени в модела, които се активират при определени условия и карат системата да действа в интерес на разработчика, а не в интерес на потребителя. 

Той също така отбеляза, че повечето модели, описани като с отворен код, всъщност са само „с отворени тегла“, което означава, че параметрите на модела се споделят, но пълната вътрешна структура и процес на обучение не са. Това оставя място за неизвестно поведение, което потребителите не могат да проверят самостоятелно.

Каква е разликата между чатбот и AI агент?

Бутерин определи настоящия момент като преходна точка в начина, по който се използва изкуственият интелект. Ранните инструменти за изкуствен интелект са функционирали като чатботове: потребителят задава въпрос и моделът връща отговор. Агентите са различни. Потребителят дава задача на системата и тя след това работи независимо, понякога за продължителни периоди, използвайки десетки или стотици инструменти, за да изпълни тази задача.

Тази промяна значително разширява повърхността на риска. Агент, който може да сърфира в мрежата, да чете файлове, да изпраща съобщения и да променя системни настройки, има много повече възможности да причини вреда, независимо дали чрез пропуск в сигурността, опит за манипулация или проста грешка, отколкото система, която само отговаря на въпроси.

Как Бутерин създаде собствена локална система с изкуствен интелект

Бутерин каза, че вече е спрял да използва облачни инструменти за изкуствен интелект. Той описа личната си система като „самостоятелна, локална, частна и сигурна“, изградена около три основни принципа: всички изводи, свързани с изкуствен интелект, се изпълняват на локален хардуер, всички файлове се съхраняват локално и всеки процес се изпълнява в пясъчник (sandbox).

В този контекст, пясъчникът е изолирана компютърна среда, която ограничава достъпа на програмата. Бутерин използва инструмент, наречен bubblewrap, който му позволява да изпълнява инструменти с изкуствен интелект в пясъчник на ниво директория, където програмата може да вижда само файлове, които той изрично е разрешил, с контрол върху достъпа до мрежови портове и достъпа до аудио.

Открийте обещаващи проекти...

Перспективни проекти...

(Реклама)

Статията продължава...

Хардуерът на Buterin е тестван за локално извеждане от изкуствен интелект

Бутерин тества няколко хардуерни конфигурации, за да открие кое работи за локално изпълнение на AI модели. Резултатите варират значително:

• Лаптоп с графичен процесор NVIDIA 5090 постигна приблизително 90 токена в секунда, използвайки модела Qwen3.5:35B.
• AMD Ryzen AI Max Pro със 128 GB унифицирана памет достигна приблизително 51 токена в секунда
• DGX Spark, предлаган на пазара като настолен суперкомпютър с изкуствен интелект, постигна приблизително 60 токена в секунда.

Бутерин определи 50 токена в секунда като свой личен минимум за използваема производителност. Той определи всичко по-бавно като твърде обезсърчително за практическа употреба и каза, че 90 токена в секунда са идеалните. Той отбеляза, че DGX Spark се представя по-зле от очакваното спрямо маркетинговите си очаквания, като произвежда по-ниски скорости от добър графичен процесор за лаптоп, като същевременно изисква допълнителна мрежова настройка за свързване от отделно работно устройство.

Неговият софтуерен стек се фокусира върху llama-server, фонов процес, който работи локално и предоставя порт на машината на потребителя, към който други приложения могат да се свързват. Това позволява всеки софтуер, създаден за OpenAI или Anthropic модели, да бъде пренасочен към локален модел. Той също така използва llama-swap, за да улесни превключването между модели.

Какво означава това за крипто портфейлите?

Притесненията на Бутерин относно сигурността на изкуствения интелект са пряко свързани с това как според него изкуственият интелект трябва да се използва в крипто портфейлите. В коментари, публикувани в акаунта му във Farcaster през март 2026 г., той очерта специфичен технически работен процес за транзакции, подпомогнати от изкуствен интелект.

Неговата позиция не е, че изкуственият интелект трябва да управлява средствата. Тя е, че изкуственият интелект трябва да предлага действия, с независима проверка и човешко потвърждение върху тези предложения. За транзакции с висока стойност той описва триетапен процес: изкуственият интелект предлага план, локален light клиент симулира изпълнението на този план във веригата, а потребителят преглежда както описанието на разбираем език, така и симулирания резултат, преди да потвърди.

Локален лек клиент проверява данните от блокчейна, без да изтегля цялата верига. Свързването на това със слой с изкуствен интелект означава, че потребителите могат да видят точно какво ще направи дадена транзакция, преди да бъде излъчена към мрежата, без да разчитат на интерфейс на трета страна.

Защо премахването на DApp интерфейсите е важно

Повечето крипто потребители взаимодействат с децентрализирани приложения чрез браузър-базирани фронтендове. Тези интерфейси исторически са били значителна повърхност за атаки. Отвличания на фронтендове, инжектиране на злонамерени скриптове и фалшиви подкани за одобрение са довели до загуби от стотици милиони долари през последните години.

Бутерин твърди, че портфейлите, задвижвани от изкуствен интелект, биха могли да премахнат тези интерфейси изцяло. Ако потребителят заяви какво иска да направи на разбираем език и портфейлът сглоби и симулира транзакцията директно, няма уебсайт на трета страна, който да бъде компрометиран. 

„Премахването на потребителските интерфейси на DApp от картината напълно решава голям брой вектори на атака, както за кражба, така и за поверителност“, пише той.

За операции с по-ниски залози, Бутерин вижда възможност за повече автоматизация. Портфейл с изкуствен интелект би могъл разумно да се справи с наблюдението на моделите на транзакции за необичайна активност, предлагайки такси за газ въз основа на текущите мрежови условия, насочвайки размяната на токени през ефективни пътища и сигнализирайки за подозрителни взаимодействия по договори преди одобрение. Това са задачи, при които грешките са поправими и където автоматизацията намалява сложността за нетехнически потребители.

Според Бутерин, на големите езикови модели не трябва да се поверява неконтролирана власт над големи суми пари. LLM генерират отговори въз основа на статистически модели, а не на детерминистична логика. Те могат да интерпретират погрешно инструкциите или да бъдат манипулирани чрез promptne injection, техника, при която внимателно изработените входни данни карат модела да се държи по непредвидени начини. Всеки слой в предложения от него работен процес добавя независима проверка, специално за предотвратяване на подобен вид неуспех.

Защо пазарът на агенти с изкуствен интелект прави тези рискове по-спешни

Опасенията, повдигнати от Бутерин, не са хипотетични. Оценките на индустрията оценяват пазара на агенти с изкуствен интелект на приблизително 8 млрд. долара през 2025 г., като прогнозите сочат растеж до над 48 милиарда долара до 2030 г., което представлява годишен темп на растеж от над 43%. Тъй като все повече софтуер се изгражда около автономни системи с изкуствен интелект, които работят с намален човешки надзор, пропуските в сигурността, които той идентифицира, стават по-трудни за игнориране в голям мащаб.

Заключение

Предупрежденията на Бутерин са подкрепени от документирани изследвания. Уязвимости в сигурността на агентите с изкуствен интелект вече са демонстрирани в реални условия, а преминаването от чатботове към автономни агенти прави тези рискове по-трудни за ограничаване. 

Неговата локална настройка и триетапен работен процес на портфейла не са отхвърляне на изкуствения интелект. Те са опити да го използват, без да се губи контрол върху данните или средствата. С нарастването на възможностите на агентите с изкуствен интелект, въпросът кой всъщност контролира действията им става по-труден за игнориране.

Ресурси

1. Статия от Виталик БутеринМоята самостоятелна / локална / частна / сигурна LLM система, април 2026 г.

2. Виталик Бутерин във FarcasterПубликувано на 5 март

3. Доклад от BCC ResearchПазарът на AI агенти ще нараства с 43.3% годишно до 2030 г.