Въвеждането на автоматизирана система за проверка на решенията на ТЕЛК и НЕЛК предизвика сериозен отпор от страна на омбудсмана Велислава Делчева. В навечерието на второто четене на промените в Закона за здравето, тя настоява за спешна корекция на текстовете, които дават прекалено голяма власт на софтуерни алгоритми при оценката на здравословното състояние на гражданите.
Основният проблем, според Делчева, е опасността алгоритъмът да се превърне в съдник, който самостоятелно спира социални плащания или отнема права. Тя е категорична, че всяка софтуерна оценка трябва да служи единствено като сигнална функция, а не като окончателен административен акт. Всяко съмнение в медицинската експертиза задължително трябва да преминава през прецизен индивидуален анализ от реални експерти.
Най-големият риск се крие в неясните критерии за определяне на „висок риск“. Съществува реална опасност хората с редки и сложни заболявания да бъдат дискриминирани от изкуствения интелект. Тъй като техните състояния често са нетипични, системата може да ги класифицира като „подозрителни“, което ще доведе до излишни проверки и стрес за най-уязвимите групи.
Омбудсманът предлага изграждането на нов член 108б в закона, който да гарантира прозрачност. Вместо сляпо доверие в машините, тя предлага ясни правила за това какви данни се използват, какъв е обхватът на контрола и как гражданите могат да защитят правото си на обжалване. Важно е също така да се извършат независими одити и оценки за въздействието върху личните данни, преди подобна технология да бъде пусната в експлоатация.
В настоящия си вид, предложената система заплашва да създаде паралелна процедура, която се разминава с досегашната практика за контрол. Делчева призовава за намеса на Комисията за защита на личните данни и подчертава, че двумесечният срок за внедряване е напълно недостатъчен за подготовка на качествена методика. Според нея, технологията трябва да бъде инструмент в ръцете на експертите, а не заместител на човешката преценка.