Дълго време изкуственият интелект се разглеждаше като една огромна и непроницаема „черна кутия“. Дори най-талантливите инженери, които стоят зад създаването на тези системи, често остават объркани от това как точно един модел с милиарди параметри стига до конкретен отговор или защо реагира по определен начин на даден стимул.
Тази догма за недостъпността на AI мисленето обаче започва да се разклаща. Изследователят Ник Камарата предлага нова, много по-оптимистична перспектива в едно свое подробно есе, което вече е предизвикало сериозен интерес в технологичните кръгове. Според него сложността на невронните мрежи не означава задължително, че те са хаотични или невъзможни за разбиране.
Основният аргумент на Камарата е, че механизмите, по които функционира изкуственият интелект, могат да бъдат разчетени. Ключът към това разбиране не е в общия поглед към системата, а в задълбочения и прецизен анализ на отделните неврони. Чрез този подход става възможно да се проследи логиката на машината и да се разбере как се формират нейните „решения“.
Ако тези твърдения се потвърдят в широки мащаби, ние сме на прага на нова ера в прозрачността на технологиите. Вместо да се надяваме, че AI ще действа предвидимо, ние ще притежаваме инструментите да разберем точно какво се случва „под капака“ на най-модерните модели.