Съдържанието, създадено с помощта на изкуствен интелект, ще трябва да бъде обозначавано, а чатботовете – да информират потребителите, че не общуват с човек.
Нов етап в регулирането на изкуствения интелект започва в Европейския съюз. От 2 август влизат в сила новите правила за прозрачност при използването на системи с изкуствен интелект (ИИ), съобщи Европейската комисия.
Според новите изисквания съдържанието, което е създадено или променено с помощта на изкуствен интелект, ще трябва ясно да бъде обозначено. Целта е потребителите да могат по-лесно да различават реална информация от генерирани или обработени чрез ИИ материали.
Чатботовете ще трябва да казват, че са изкуствен интелект
Една от основните промени засяга чатботовете и други интерактивни системи. Те вече ще трябва да уведомяват хората, че комуникацията се води с изкуствен интелект, а не с реален човек.
Новите правила въвеждат и изискване за обозначаване на дийпфейкове – изображения, видеа или аудио записи, които са създадени или значително променени чрез ИИ технологии.
Освен това съдържанието, генерирано от изкуствен интелект, ще трябва да съдържа машинночетими маркери, които позволяват автоматичното му откриване.
По-строги изисквания към големите модели с ИИ
Допълнителни задължения ще имат доставчиците на модели с общо предназначение (GPAI), които стоят зад големи системи с изкуствен интелект.
Те ще трябва да предприемат мерки за ограничаване на рискове, свързани с:
- химически, биологични, радиологични и ядрени заплахи;
- кибератаки и злоупотреби;
- вредни манипулации;
- загуба на контрол върху системите;
- нарушения на основни права.
Компаниите ще трябва също да оценяват рисковете за европейската киберсигурност, да въведат политика за защита на авторските права и да публикуват обобщена информация за съдържанието, използвано за обучение на техните модели.
Забрана на определени опасни практики
Европейското законодателство въвежда и ограничения за използването на ИИ в случаи, които могат да доведат до сериозни вреди за хората.
Забранени ще бъдат системи, които:
- подвеждат хората чрез манипулативни техники;
- използват уязвимости по вреден начин;
- оценяват хора по начин, който може да застраши техните права и свободи.
Кой ще следи за спазването на правилата?
Контролът ще бъде разделен между няколко институции.
Службата за изкуствен интелект на ЕС ще отговаря за правилата при системи, свързани с големи модели с общо предназначение, включително такива, използвани в много големи онлайн платформи и търсачки.
Националните органи в държавите членки ще следят за останалите системи с ИИ, а Европейският надзорен орган по защита на данните ще контролира използването на такива технологии от институциите на ЕС.
Гражданите ще могат да подават сигнали
Физически и юридически лица ще могат да подават жалби при съмнения за нарушения на европейските правила за изкуствения интелект.
Сигнали ще могат да подават и служители на компании, разработващи или предоставящи модели с общо предназначение, ако установят предполагаеми нарушения.
Новите правила са част от по-широкия Акт за изкуствения интелект на ЕС (AI Act), чиято цел е да създаде обща европейска рамка за безопасно, прозрачно и отговорно използване на ИИ технологии.