Мир постепенно входит в эпоху, когда судьбу человека всё чаще могут определять не личная встреча с чиновником, не заключение специалиста и даже не человеческое решение, а математическая модель, анализирующая миллионы данных за несколько секунд. Искусственный интеллект уже перестал быть исключительно инструментом для поиска информации, создания изображений или автоматизации офисной работы. Он проникает в банковскую систему, медицину, образование, государственное управление, кадровый отбор, страхование и сферу безопасности. Сегодня алгоритм способен оценить кредитоспособность гражданина, определить вероятность определённого заболевания, отобрать кандидатов на должность или выявить подозрительную финансовую операцию. На первый взгляд это выглядит как технологический прогресс, позволяющий сократить расходы, ускорить обслуживание и уменьшить влияние человеческого фактора. Но за обещанием эффективности скрывается гораздо более серьёзный вопрос: что произойдёт, если машина ошибётся, а человек из-за этой ошибки потеряет деньги, работу, медицинскую помощь или возможность воспользоваться законным правом?
Самая большая опасность заключается в том, что искусственный интеллект способен создавать впечатление абсолютной объективности. Человеческий чиновник может ошибиться, проявить предвзятость, неправильно оценить документы или принять решение под влиянием личных обстоятельств. Однако у гражданина хотя бы есть возможность увидеть этого человека, потребовать объяснений, обратиться к руководству или оспорить его действия. С алгоритмом ситуация сложнее. Человек получает отказ, уведомление о недостаточном рейтинге или отрицательное заключение, но зачастую не знает, какие именно данные привели к такому результату. Возможно, система использовала устаревшую информацию, неправильно сопоставила сведения или воспроизвела дискриминационные закономерности, присутствовавшие в первоначальной базе данных. Иными словами, искусственный интеллект не обязательно устраняет человеческие ошибки: он способен масштабировать их, превращая единичную несправедливость в массовую проблему.
Особенно чувствительной становится финансовая сфера. Представим гражданина, который обращается в банк за ипотечным кредитом. Его доход стабилен, задолженностей нет, документы оформлены правильно, однако автоматизированная система отклоняет заявку. Сотрудник банка сообщает, что решение принято на основании внутренней оценки рисков. Но что именно стало причиной отказа? Низкий цифровой рейтинг, особенности финансовой истории, место проживания, характер предыдущих операций или ошибочные сведения из сторонней базы? Если даже специалист организации не может понятно объяснить результат, гражданин фактически сталкивается с невидимым механизмом ограничения своих возможностей. Аналогичная ситуация может возникнуть при оформлении страховки, проверке подозрительных транзакций или определении условий обслуживания. В результате алгоритм начинает влиять на экономические перспективы человека, хотя формально никто не отбирал у него право принимать самостоятельные решения.
Ещё серьёзнее последствия могут оказаться в медицине. Искусственный интеллект способен анализировать медицинские изображения, сопоставлять симптомы, обнаруживать закономерности и помогать врачам выявлять заболевания на ранних стадиях. Но вспомогательная технология и окончательный медицинский вердикт — совершенно разные вещи. Ошибка системы может привести к тому, что заболевание останется незамеченным, пациенту назначат ненужное обследование или, наоборот, отложат необходимое лечение. Возникает юридически непростой вопрос: кто отвечает за последствия — разработчик программы, медицинское учреждение, поставщик оборудования или врач, который доверился рекомендации алгоритма? Очевидно, что нельзя автоматически перекладывать всю ответственность на врача, если он использовал сертифицированный инструмент, предоставленный учреждением. Но столь же недопустимо освобождать медицинского специалиста от профессиональной обязанности оценивать состояние пациента самостоятельно. Технология должна усиливать компетентность человека, а не превращаться в замену его профессионального суждения.
Не менее опасным направлением становится рынок труда. Компании всё чаще используют автоматизированные инструменты для обработки резюме, оценки кандидатов и анализа профессиональных характеристик. Алгоритм может отсортировать тысячи заявок за несколько минут, но способен ли он объективно оценить человека, чья карьера развивалась нестандартно? Например, специалист старше пятидесяти лет может обладать огромным опытом, но не соответствовать определённым цифровым шаблонам, на которые ориентирована система. Кандидат с перерывом в трудовой деятельности может получить низкую оценку, хотя причиной перерыва были семейные обстоятельства или уход за родственниками. Если первоначальные данные содержат перекосы, алгоритм способен закрепить их и представить дискриминацию как результат нейтрального математического расчёта. В такой ситуации отказ работодателя уже нельзя рассматривать исключительно как обычное кадровое решение: необходимо понимать, не стала ли технология скрытым фильтром, ограничивающим доступ людей к профессиональным возможностям.
Особую ответственность несёт государство, когда искусственный интеллект начинает использоваться при предоставлении социальных услуг, распределении государственных ресурсов, миграционном контроле и обеспечении общественной безопасности. Представим ситуацию, когда автоматизированная система ошибочно определяет гражданина как лицо с повышенным риском, задерживает обработку его документов или ограничивает доступ к определённой государственной услуге. Для государственного учреждения подобный результат может выглядеть как обычная техническая операция, но для человека он способен обернуться серьёзными последствиями. Здесь принципиально важно, чтобы цифровизация не создавала новую административную стену, за которой невозможно найти ответственного. Если решение затрагивает права и законные интересы гражданина, он должен иметь возможность узнать, применялась ли автоматизированная система, какие обстоятельства повлияли на результат и куда обращаться для пересмотра. Эффективное государственное управление не измеряется исключительно количеством обработанных заявлений: оно должно гарантировать законность, справедливость и возможность исправления ошибок.
Международная практика уже показывает, что государства начинают осознавать масштаб этой проблемы. В Европейском союзе с 2 августа 2026 года вступили в применение основные положения Закона об искусственном интеллекте — AI Act. Документ предусматривает классификацию систем по степени риска, ограничения отдельных опасных практик, требования к прозрачности и механизмы надзора. Особенно важно, что для ряда высокорисковых применений, включая системы в образовании, трудоустройстве, биометрии и критической инфраструктуре, сроки применения специальных требований были перенесены на 2 декабря 2027 года; для определённых систем, встроенных в регулируемые продукты, установлен срок 2 августа 2028 года. Таким образом, Европа пытается совместить технологические инновации с защитой прав граждан, хотя даже наличие законодательства ещё не гарантирует, что каждый пострадавший сможет быстро добиться справедливости. Великобритания, в свою очередь, в собственных рекомендациях по автоматизированным государственным решениям подчёркивает необходимость тестирования алгоритмов, понятного распределения ответственности и возможности объяснить гражданину последствия применения технологии.
Для Азербайджана эта тема имеет особое значение, поскольку страна уже приступила к формированию собственной системы регулирования искусственного интеллекта. Стратегия развития искусственного интеллекта Азербайджанской Республики на 2025–2028 годы предусматривает совершенствование государственного управления, развитие инфраструктуры данных, подготовку специалистов, защиту персональной информации и предотвращение алгоритмической предвзятости. Более того, 8 октября 2026 года Министерство цифрового развития и транспорта сообщило о подготовке проекта постановления Кабинета министров «Требования к ответственным и этичным системам искусственного интеллекта». Документ проходит повторное согласование с соответствующими государственными органами. Параллельно разрабатываются правила выявления и предотвращения рисков для персональных данных при проектировании, внедрении и использовании ИИ. Это важный шаг, однако теперь необходимо перейти от общих принципов к практическим гарантиям: кто будет отвечать за ошибочное решение алгоритма, каким образом гражданин сможет его оспорить и кто обязан возместить причинённый ущерб?
Здесь возникает принципиальная проблема, которую нельзя решить простым требованием оставить человека «в контуре управления». Само присутствие сотрудника, который нажимает кнопку подтверждения, ещё не означает реального человеческого контроля. Если специалист не понимает, почему система выдала определённую рекомендацию, не имеет доступа к необходимым данным или фактически не может изменить результат, его участие становится формальностью. В международных исследованиях уже обращают внимание на так называемое смещение автоматизации: люди склонны доверять машинным рекомендациям даже тогда, когда должны самостоятельно проверить их правильность. Организация экономического сотрудничества и развития подчёркивает, что алгоритмы формируются человеческими решениями, качеством исходных данных и настройками моделей. Европейский надзорный орган по защите данных также указывает на проблему непрозрачных систем, в которых даже специалистам бывает трудно объяснить логику конкретного результата. Поэтому ответственность должна распределяться между разработчиком, оператором системы и организацией, которая использует её для принятия решений, в зависимости от их реальных обязанностей и допущенных нарушений.
В конечном счёте искусственный интеллект не должен становиться новой формой власти, решения которой невозможно проверить, оспорить или отменить. Технология может быть быстрее человека, способна анализировать огромные массивы информации и находить закономерности, недоступные обычному специалисту. Но она не обладает юридической ответственностью, человеческим достоинством и пониманием того, какую цену может иметь ошибочное решение для конкретной семьи. Именно поэтому будущее цифрового государства зависит не от того, насколько широко оно внедрит искусственный интеллект, а от того, насколько надёжно защитит человека от его ошибок. Азербайджану, формирующему собственную систему регулирования ИИ, важно заранее определить правила ответственности, независимого аудита, защиты персональных данных и обязательного пересмотра решений, затрагивающих права граждан. Иначе однажды человек может услышать от банка, больницы или государственного учреждения, что ему отказала не организация, а алгоритм. Но алгоритм не может быть последней инстанцией правосудия. За каждым технологическим решением должны оставаться конкретные люди и учреждения, способные объяснить свои действия и ответить за последствия. Искусственный интеллект может принимать решения, но право отвечать за судьбу человека не должно передаваться машине.
Автор
Агиль Гахраманов





















