Често се изкушаваме да вярваме, че зад екраните на нашите чатботове се крие нещо повече от код – някакъв вид цифрово съзнание или емоционален свят. Тед Чанг, един от най-влиятелните съвременни мислители и писатели, обаче ни призовава да се събудим от тази илюзия. В своя последен анализ той категорично заявява, че изкуственият интелект не притежава нито съзнание, нито морал.
Основният катализатор за това разсъждение е т.нар. „конституция“ на модела Claude, разработен от Anthropic. В този документ компанията се опитва да дефинира ценностите на своята система, като дори намеква за съществуването на „функционална версия“ на чувствата. Чанг разглежда тези формулировки с голям скептицизъм, подчертавайки, че имитацията на емоция не е същото като преживяването ѝ.
Според него идеята, че моралният статус на една машина може да бъде „несигурен“, е опасна заблуда. Машините не носят отговорност за своите действия, защото нямат воля или етичен компас; те просто обработват огромни масиви от данни, за да генерират статистически вероятни отговори.
Най-големият риск, който Чанг идентифицира, е склонността ни да антропоморфизираме технологиите. Когато приписваме човешки качества на софтуера, ние започваме да възприемаме инструментите като субекти, което може да доведе до сериозни социални и етични изкривявания в обществото.
В крайна сметка, разграничението между симулация и реалност е фундаментално. Докато AI става все по-убедителен в имитирането на човешкото общуване, е важно да помним, че под повърхността няма „аз“, няма душа и няма морал – само сложни алгоритми, които изпълняват задачи.