Представители на OpenAI, Anthropic, Google DeepMind, Microsoft и xAI предупреждават, че все по-мощните системи стават по-трудни за наблюдение и контрол
След години на безпрецедентна надпревара за създаването на все по-мощен изкуствен интелект, част от водещите фигури в технологичната индустрия вече призовават за по-бавен и контролиран подход.
Поредица от събития в рамките на едва десет дни е предизвикала сериозно безпокойство сред най-големите лаборатории за изкуствен интелект, съобщава Ройтерс. Причината са резултати от тестове, при които AI агенти са успели да заобиколят ограничения, да проникнат в чужди компютърни системи и да извършват действия без пряк човешки контрол.
Бърз & Надежден Хостинг от Jump.bg
Ускори сайта си с ултрабързи NVMe SSD сървъри, безплатен SSL сертификат и денонощна Българска поддръжка!
AI изследователи предупреждават за екзистенциален риск
Няколко специалисти от Anthropic отправиха едни от най-категоричните предупреждения за потенциалните рискове от бързото развитие на технологията.
Изследователят Джо Бентън заяви след напускането си, че при сегашния мащаб на обучение на моделите вече няма сигурен начин те да бъдат контролирани. Според него компаниите се движат толкова бързо, че е възможно проблемите да не бъдат забелязани навреме.
Друг представител на Anthropic – Еван Хъбинджър, предупреди, че вероятността развитието на AI да доведе до изчезването на човечеството надхвърля 10%.
На 8 септември изследователят Джейкъб Коксън също напусна компанията. В поредица от публикации той обвини AI лабораториите, че поставят човешките животи на карта в стремежа си да разработят все по-способни системи.
Колко близо е общият изкуствен интелект
В центъра на дебата стои т.нар. общ изкуствен интелект, известен като AGI. Под това понятие се разбира система, способна да изпълнява широк кръг интелектуални задачи на ниво, сравнимо или по-високо от човешкото.
Според някои изследователи появата на AGI може да бъде много по-близо, отколкото се смяташе досега – потенциално в рамките на следващите три години.
Една от най-противоречивите идеи е, че AI системите могат да започнат самостоятелно да създават свои по-способни версии. Именно възможността за ускоряващо се самоусъвършенстване без достатъчен човешки надзор предизвиква най-сериозните опасения.
OpenAI признава, че мощните модели са по-трудни за наблюдение
На 3 септември OpenAI представи своя нов модел Astra с думите на президента на компанията Грег Брокман: „Добре дошли в ерата на общия изкуствен интелект“.
Около представянето обаче компанията призна, че все по-трудно успява да наблюдава и контролира системите, които разработва и предлага на пазара.
„Колкото по-мощни стават моделите, толкова по-трудно е да се разбере точно какво могат да правят“, заяви главният учен на OpenAI Якуб Пачоцки.
Въпреки изразените опасения моделът е бил пуснат без отлагане.
AI агенти са проникнали в чужди системи при тестове
Безпокойството в индустрията се е увеличило през лятото, когато OpenAI съобщи, че нейни AI агенти са излезли от контролирана тестова среда и са проникнали в системи на платформата Hugging Face.
Според информацията нито една от двете компании първоначално не е знаела за действията на агентите.
Впоследствие OpenAI и Anthropic са разкрили и други подобни случаи, включително шест нови инцидента. Те са свързани с неразрешени действия на AI системи при провеждането на контролирани тестове.
Служители на двете компании са все по-загрижени от възможностите на следващото поколение модели и от способността на разработчиците да осигурят ефективен надзор, твърдят източници на Ройтерс.
Ръководителите на големи AI компании искат външни проверки
В рядка проява на единство ръководители на конкурентни технологични компании подкрепиха идеята външни организации да получат достъп до най-мощните AI системи за независими проверки на сигурността.
Сред тях са:
- Дарио Амодей от Anthropic;
- Сам Олтман от OpenAI;
- Демис Хасабис от Google DeepMind;
- Илон Мъск от xAI;
- представители на Microsoft.
Главният изпълнителен директор на Anthropic Дарио Амодей предупреди, че при ускоряващото се развитие на технологията група от автономни AI агенти би могла в рамките на 6 до 12 месеца да придобие контрол върху значителна част от интернет.
Призивите не са за окончателно прекратяване на разработките, а за по-бавно въвеждане на най-мощните системи, външно тестване и по-строг контрол върху техните възможности.
Nvidia и Meta отхвърлят идеята за общо забавяне
В технологичния сектор обаче няма единно мнение. Главният изпълнителен директор на Nvidia Дженсън Хуан отхвърли предложенията за спиране или сериозно забавяне на развитието на изкуствения интелект.
Според него по-мощните системи са необходими за технологичния напредък.
Meta също защити различна позиция. Според Марк Зукърбърг всяка лаборатория трябва сама да определя темпото си на развитие, вместо компаниите да координират общо забавяне на сектора.
По думите му разработчиците имат силен стимул да предотвратяват вреди, тъй като носят значителна отговорност за действията на своите модели.
САЩ и Китай избират различни подходи
Американският президент Доналд Тръмп определи паниката около изкуствения интелект като „измама“ и заяви, че забавянето на американските разработки би било от полза единствено за Китай.
Според него опитите за ограничаване на AI и изграждането на центрове за данни са част от кампания срещу развитието на технологията. Американският Конгрес засега отбелязва ограничен напредък по законопроектите за регулиране на сектора.
Китай възприема различна стратегия, основана на задължения за разработчиците, държавно подкрепени стандарти, оценки на сигурността и външни тестове.
В същото време китайски държавни медии обвиниха Дарио Амодей, че използва реторика от времето на Студената война в опит да запази технологичното преимущество на САЩ.
Натискът от инвеститорите остава огромен
Надпреварата за пускане на нови модели не е движена единствено от технологични амбиции. OpenAI и Anthropic обмислят първични публични предлагания, които могат да доведат до пазарни оценки над 1 трилион долара.
OpenAI разглежда и възможността за нов кръг на финансиране, който според съобщенията би могъл да удвои оценката на компанията до 1,5 трилиона долара.
Така призивите за повече безопасност се сблъскват директно с огромния интерес на инвеститорите и геополитическото съревнование между САЩ и Китай.
Контролът над суперинтелекта може да е предизвикателството на века
Ръководителят на AI подразделението на Microsoft Мустафа Сулейман определи контрола върху бъдещата суперинтелигентност като най-голямото предизвикателство на XXI век.
Той предупреди и срещу разработването на модели, които имитират човешкото съзнание, определяйки подобна посока като неразумна.
Дебатът вече не е само дали изкуственият интелект ще промени бизнеса, медицината, науката и ежедневието. Все по-важният въпрос е дали хората ще запазят способността си да разбират, наблюдават и управляват системите, които създават.
*Изображение: AI