Этик по ИИ: зачем бизнесу человек, который учит нейросети морали

Путь к этике

Еще на заре компьютерной эры отец кибернетики Норберт Винер предупреждал: если человек создаст машины, способные обучаться и превосходить его в скорости принятия решений, он потеряет над ними контроль.

В 1960-х, когда один компьютер занимал целую комнату и управлялся перфокартами, гипотеза вызывала лишь улыбку. Ближе к 1980-м оформилась техноэтика — область философии, изучающая моральные последствия технологического прогресса. Но разговоры велись преимущественно в академических кругах и больше напоминали антиутопию, чем прикладную науку.

В начала ХХI века машины уже достаточно обучились, чтобы принимать решения, которые реально влияют на жизнь людей. Показательная история случилась в Amazon: компания разрабатывала систему автоматической оценки резюме по шкале от одного до пяти. Алгоритм обучали на анкетах за последние десять лет. Поскольку в технологической отрасли большинство соискателей традиционно составляли мужчины, модель сделала вывод, что такие кандидаты предпочтительнее. Система начала снижать оценки за любое «женское упоминание», будь то «женский шахматный клуб» или «выпускница женского колледжа». Добиться нейтральности алгоритма так и не удалось, и проект свернули.

Подобные кейсы начали множиться. Так бизнес пришел к пониманию, что в одиночку инженеры не справятся с вопросами справедливости, прозрачности и ответственности. Нужен человек, который формулирует ценности на языке, одинаково понятном и философам, и разработчикам. Первым таким специалистом стала Кей Ферт-Баттерфилд: в 2014 году она заняла должность директора по этике ИИ в американском стартапе и сформировала один из первых консультативных советов по вопросам ответственного использования технологий.

Дальше процесс пошел по накатанной. Microsoft создала внутренний комитет Aether — для оценки этических рисков в исследованиях и инженерии. Собственный этический совет появился у Google DeepMind. В 2016 году возникла некоммерческая организация Partnership on AI, объединившая Microsoft, Google, Facebook, Amazon и IBM.

Давление в сфере ИИ непрерывно растет во всем мире — это утверждает отчет Всемирного экономического форума за 2025 год. Соответственно, компании, которые не выстроили этические рамки заранее, рискуют столкнуться с ними уже в виде штрафов и запретов, а не рекомендаций. Так что спрос на специалистов-этиков множится взрывными темпами: только в прошлом году плюс 125%, констатирует исследование AI Workforce Consortium. Ежегодно на рынке труда открывается более 100 тыс. позиций в этой сфере.

Философ, юрист и PR-специалист

В Беларуси уже используют грузовики под управлением искусственного интеллекта для перевозки товаров по складам. Возможно, через пару-тройку лет фургоны начнут курсировать по дорогам общего пользования. Случись авария, кто будет нести ответственность: разработчик системы, владелец транспортного средства или сам алгоритм? Разбором таких спорных ситуаций и занимается этик по ИИ.

По сути, профессия находится на стыке технологий, права и человеческих ценностей. Специалист должен одновременно понимать, как создаются ИИ-системы и обрабатываются данные, разбираться в правовых рамках и уметь оценивать этические принципы. Fast Company однажды описала эту роль так: «Часть философа, часть юриста, часть PR-специалиста — и единственный человек в компании, который скажет, что, возможно, не стоит этого делать».

На практике работа «учителя совести» разворачивается в трех направлениях: аудит алгоритмов, разработка внутренних стандартов и обучение команд. Например, для Claude AI целая команда разрабатывала конституцию. Это документ объемом более 20 тыс. слов, излагающий принципы, которым должна следовать модель при формировании каждого ответа. В качестве источников использовали работы от Канта до Всеобщей декларации прав человека.

В наших широтах профессия пока не оформилась в массовую корпоративную должность, однако подвижки есть. «Сбер», «Яндекс», «Ростелеком», «ВКонтакте», «Росатом», НИУ ВШЭ, ИТМО — более 900 организаций (среди них 50 зарубежных) подписали Российский кодекс этики в сфере искусственного интеллекта.

Каждый участник назначает сотрудника, ответственного за соблюдение принципов внутри своей компании. В Беларуси Объединенный институт проблем информатики НАН разработал модельный закон «О технологиях искусственного интеллекта», а в апреле 2025 года его приняла Межпарламентская ассамблея СНГ.

Интеллект искусственный — последствия реальные

Ошибаясь из-за личных предубеждений, человек вредит отдельным людям. Алгоритм транслирует погрешность миллионными тиражами в секунду. По данным бенчмарка HalluHard, даже самые мощные системы с доступом к интернету галлюцинируют в 30% случаев. С отключенным веб-поиском доля вымысла подскакивает до 60%. В 2024 году это обернулось судебным делом для Air Canada. Пассажир спросил у чат-бота авиакомпании, можно ли купить билет по сниженной цене в связи с утратой близкого. Бот заверил: оформите по полной стоимости, а в течение 90 дней вернете разницу по специальному «тарифу для скорбящих». Вероятно, вы догадались, что такой акции не существовало. Дело дошло до трибунала, а компания заявила, мол, чат-бот — «отдельное юридическое лицо», и они не отвечают за его слова. Суд встал на сторону пассажира и обязал Air Canada выплатить компенсацию.

Но не галлюцинациями едиными… Вся информация из промпта отправляется на серверы разработчиков нейросети и, как правило, используется для дальнейшего обучения модели. Это значит, что секретный код, финансовый отчет или стратегия компании могут случайно «всплыть» в ответе ИИ для другого пользователя. Так Apple получила несколько исков с обвинением в том, что Siri ведет несанкционированную запись приватных разговоров и действий в интернете. Один из пользователей сообщил: после обсуждения с врачом своего диагноза голосовой ассистент начал предлагать варианты хирургического лечения. Другой, что упоминание в поиске кроссовок и ресторанов спровоцировало волну рекламы этих товаров. Официального комментария от Apple не последовало, однако компания согласилась выплатить $95 млн для урегулирования коллективного иска.

Неохотно ставят компании пометку «сделано с помощью ИИ»: кажется, клиент воспримет это как халтуру. Но тайное, как известно, становится явным. Австралийское правительство заказало у Deloitte аудит IT-системы, выписывающей штрафы получателям пособий. После публикации отчета независимый исследователь обнаружил в нем фиктивные академические ссылки и цитаты. Выяснилось, что компания использовала ChatGPT, хотя клиент разрешал только лицензированные инструменты внутри защищенной среды департамента. Deloitte вернул правительству $290 тыс.

Когда этика мешает

Вопрос о том, нужен ли компании AI Ethicist, неотделим от другого: а готова ли она его слушать? В Google, судя по всему, ответ оказался отрицательным. Тимнит Гебру, соруководитель команды Ethical AI, провела исследование о рисках больших языковых моделей и зафиксировала их склонность генерировать оскорбительный контент и систематические ошибки, закрепляющие дискриминацию меньшинств. Компания потребовала отозвать статью или убрать из нее имена сотрудников. Гебру отказалась и дала понять: если исследование не выйдет в полном объеме, она уйдет. Google воспринял это как заявление об увольнении по собственному желанию.

Гонка за пользователями и долей рынка давит в сторону «запустим, а потом разберемся» — и этические соображения нередко уходят на второй план. Американский философ Аарон Каган проанализировал вакансии в секторе AI Ethics и установил: 26,6% позиций упоминают этику в описании, однако лишь 5% реально предполагают эту работу в повседневной практике. Такую ситуацию критики называют ethics washing — созданием видимости ответственности без реальных изменений. Компания нанимает этика, чтобы выглядеть убедительно перед инвесторами и регуляторами, но не наделяет его полномочиями, которые позволили бы что-то изменить.