Маргарет Атууд, една от най-разпознаваемите фигури в съвременната литература, отправи остро предупреждение към потребителите на генеративен изкуствен интелект. След един-единствен опит с Claude на Anthropic тя стига до познат, но болезнено актуален извод: когато входящата информация е лоша, резултатът също е лош.
Маргарет Атууд не е впечатлена от Claude
Маргарет Атууд, авторката на „Историята на прислужницата“ и „Слепият убиец“, коментира темата за изкуствения интелект по време на литературния и културен фестивал Babell в Порто, Португалия. Поводът не е корпоративна презентация, нито технологична демонстрация, а личен експеримент с AI чатбот Claude на Anthropic.
По думите ѝ тя използвала Claude, за да провери информация за британския детективски сериал „Father Brown“. Отговорът обаче се оказал грешен. За Атууд това не е просто дребна неточност, а показателен пример за начина, по който големите езикови модели могат уверено да произвеждат неправилна информация.
Нейното обяснение е почти безпощадно просто: моделът вероятно е „видял“ множество ревюта и текстове за сериала, но тъй като подобни публикации често избягват спойлери, AI системата е направила грешен извод. С други думи, Claude не е „разбрал“ сюжета. Той е сглобил вероятен отговор от наличните данни и този отговор се е оказал неверен.
Това е ключовата разлика, която потребителите често подценяват. Един AI чатбот може да звучи убедително, да структурира добре текста и да имитира експертен тон, но това не го превръща автоматично в надежден източник.
„Garbage in, garbage out“ остава болезнено актуално
Изразът „garbage in, garbage out“ не е нов. Той се използва от десетилетия в компютърните науки и означава, че лошите или непълни входни данни водят до лоши резултати. При генеративния AI този принцип се връща с пълна сила.
Големите езикови модели не работят като човешка памет, нито като редактор с професионална отговорност. Те прогнозират вероятни последователности от думи на база огромни масиви от текст. Ако тези масиви съдържат непълна, остаряла, подвеждаща или контекстуално ограничена информация, резултатът може да бъде убедително написана грешка.
Именно това прави проблема толкова опасен за масовия потребител. Грешният отговор невинаги изглежда грешен. Понякога той идва с уверен тон, добре подредени аргументи и дори измислени или неправилно интерпретирани препратки.
Anthropic признава в собствената си документация, че дори напредналите езикови модели могат да генерират фактически неверни или несъвместими с контекста твърдения. Компанията препоръчва техники като изрично позволяване на модела да каже „не знам“, работа с конкретни цитати и проверка чрез източници. Това е важен детайл: самите разработчици не твърдят, че проблемът е напълно решен.
OpenAI също описва AI халюцинациите като устойчиво предизвикателство за големите езикови модели. Според компанията една от причините е, че традиционните системи за оценка често награждават правилния отговор, но не наказват достатъчно уверено поднесената грешка. Така моделите могат да бъдат стимулирани да „познават“, вместо да признават несигурност.
Защо това не е просто литературен спор
На пръв поглед реакцията на Атууд може да изглежда като поредната критика от страна на творец към нова технология. Контекстът обаче е много по-широк.
През последните години писатели, журналисти, издатели и музиканти все по-често поставят въпроса как AI компаниите използват защитено съдържание за обучение на модели. Още през 2023 г. Маргарет Атууд, Виет Тан Нгуен, Филип Пулман и хиляди други автори подкрепиха призив AI компаниите да не използват произведенията на писатели без разрешение, кредит и компенсация.
Юридическата картина също е далеч от приключила. В САЩ Meta спечели важен спор срещу група автори през 2025 г., но съдията ясно подчерта, че решението не означава автоматично, че използването на защитени материали за обучение на AI винаги е законно. В отделен случай Anthropic стигна до споразумение за 1,5 млрд. долара по колективен иск, свързан с неоторизирано използване на книги, като казусът показа колко сложна става границата между „fair use“, пиратски копия и обучение на AI модели.
Тук няма лесен черно-бял отговор. От една страна, AI индустрията твърди, че обучението върху големи масиви от текст е необходимо за развитието на полезни и конкурентни модели. От друга страна, авторите и издателите предупреждават, че без устойчив модел за разрешение и компенсация технологията може да подкопае самата екосистема, от която се храни.
Новият риск: AI като посредник на знанието
Проблемът вече не е само дали AI ще напише слаб роман или неточна рецензия. Все повече потребители използват чатботове като заместител на търсачки, помощник за работа, източник на новини или инструмент за вземане на решения.
Изследване на EBU и BBC, цитирано от Reuters през 2025 г., установява, че водещи AI асистенти са представили новинарско съдържание с поне един значим проблем в почти половината от анализираните отговори. Част от грешките са свързани с източници, остаряла информация или неточно разграничаване между факт и мнение.
За потребителите това означава едно: AI може да бъде полезен старт, но не трябва да бъде финална инстанция. Особено когато става дума за здраве, финанси, право, пътувания, образование, новини или професионални решения.
Европейският контекст е важен и за България
За българските потребители и компании темата не е далечна американска дискусия. Европейският AI Act вече поставя по-ясни правила за прозрачност, риск и отговорност при използването на изкуствен интелект.
Регламентът влезе в сила на 1 август 2024 г., а ключови правила се прилагат поетапно. Част от задълженията за модели с общо предназначение вече са приложими от август 2025 г., а правилата за прозрачност трябва да започнат да действат през август 2026 г. Това има значение за компании в България, които внедряват AI инструменти в обслужване на клиенти, HR процеси, маркетинг, медии, образование или вътрешна автоматизация.
Най-практичният извод е, че бизнесът не може просто да добави AI чатбот и да очаква магия. Нужни са правила: какви данни се подават, кой проверява резултатите, кога AI не трябва да се използва, как се обозначава AI генерирано съдържание и кой носи отговорност при грешка.
Какво означава това за потребителите?
За обикновения потребител думите на Маргарет Атууд са полезно напомняне: AI не е оракул. Той е инструмент, мощен, удобен и понякога впечатляващ, но все още зависим от качеството на данните, дизайна на модела и начина, по който задаваме въпросите си.
Ако използвате ChatGPT, Claude, Gemini, Copilot или Perplexity, най-добрият подход е да мислите като редактор, не като пасивен читател. Искайте източници. Проверявайте важните твърдения. Сравнявайте с официални страници, регулатори, първични документи и авторитетни медии. При съмнение формулирайте въпроса по-конкретно и изисквайте моделът да отбелязва несигурността си.
За професионалистите рискът е още по-голям. Един грешен AI отговор може да влезе в презентация, клиентски имейл, юридическа бележка, SEO статия или вътрешна политика. Така халюцинацията вече не е просто технически дефект, а оперативен риск.
Критиката на Маргарет Атууд към Claude не е атака срещу технологиите като цяло. Тя е предупреждение срещу сляпото доверие в системи, които могат да звучат уверено, без да разбират истински това, за което говорят.
Генеративният AI вече е част от ежедневието ни – в работата, медиите, търсенето на информация и творческите процеси. Следващата голяма битка обаче няма да бъде само за по-бързи модели или по-ниски цени. Тя ще бъде за доверие, прозрачност и човешка проверка.
Атууд може да е използвала Claude само веднъж, но примерът ѝ улавя един от най-важните въпроси в AI ерата: когато машината звучи убедително, кой проверява дали казва истината?