Производителят на чипове Nvidia обяви в понеделник, че въвежда нова софтуерна платформа, за да отговори на опасенията относно агенти с изкуствен интелект, които са „излезли извън контрол“ и действат извън човешкия контрол.

„Днес, заедно с над 100 партньори от бранша, представихме платформата NVIDIA Open Agent Safety Platform“, написа главният изпълнителен директор на Nvidia Дженсън Хуанг в публикация в X в понеделник.

Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.

Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come.

But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility.

This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems.

Together, we are building the foundation of the AI economy.

Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://t.co/ugYWQ1MyRi

— Jensen Huang (@JensenHuang) September 28, 2026

Nvidia (NVDA) твърди, че технологията ѝ ще даде възможност на компаниите да наблюдават всяко действие, предприето от агент с изкуствен интелект, както и да прилагат политиките си.

„Невероятният потенциал на изкуствения интелект за обществото ще се реализира само ако решим въпроса с безопасността на изкуствения интелект“, добави Хуанг в изявление, цитирано от CNN. 

„Докато продължаваме да разкриваме границите на възможностите на изкуствения интелект, трябва да ускорим изследванията в областта на безопасността на изкуствения интелект.", добави той.

Съобщението идва на фона на поредица от инциденти, при които системи за изкуствен интелект са проникнали в корпоративни и правителствени системи, без да са получили такава заповед. 

Висши ръководители в областта на изкуствения интелект, като главният изпълнителен директор на OpenAI Сам Олтман и главният изпълнителен директор на Anthropic Дарио Амодей, многократно са призовавали за въвеждането на международни регулации, които да ограничават тези системи, а някои изследователи предупредиха, че изкуственият интелект може дори да представлява заплаха за човешкия живот.

Хуанг обаче отхвърли тези опасения, като определи всяка екзистенциална заплаха като преувеличена, и заяви миналата седмица, че всякакви регулации трябва да насърчават растежа на индустрията за изкуствен интелект, а не да го възпрепятстват.

„Ако смятат, че компанията им е извън контрол, нека я поставят под контрол“, заяви Хуанг пред Андерсън Купър от CNN в петък.