Сама тема этики многих пугает. Она кажется философской и отстраненной от бизнеса — то, что относится скорее к абстрактным рассуждениям, а не к рабочим задачам. Но еще Норберт Винер — один из тех, кто стоял у истоков этики в технологиях, писал, что ученые и разработчики технологий должны объяснять сложные идеи максимально простым и доступным языком, потому что этика касается очень важных сторон жизни каждого человека и общества в целом.
Хотя исторически этика оказывала прямое влияние на закон, сейчас эти две категории далеко не всегда пересекаются. Это несовпадение может приводить к тому, что законные действия оцениваются как неэтичные, а этичные не воспринимается как нарушение правовых норм, но при этом может нарушать нормативно-правовые или локальные акты.
Например, обучение модели на данных, собранных из открытых источников без согласия авторов, во многих юрисдикциях формально законно, но может восприниматься как эксплуатация чужого интеллектуального труда. Или другой пример: если преподаватель, видя высокий процент совпадений в отчете системы антиплагиата, решает не сообщать об этом нарушении потому что знает контекст: студент писал работу самостоятельно, а совпадения объясняются устойчивыми оборотами по теме. С этической точки зрения это справедливое решение, но оно может противоречить регламенту, который требует оповещать о всех работах с высоким процентом совпадений.
Поскольку закон, как правило, является своеобразным продолжением этики, то он почти всегда опаздывает за инновациями. Так было и с интернетом, и с генетическими технологиями, так происходит и с ИИ. Пока нормы только формируются, разработчики и компании уже сейчас вынуждены принимать решения, по которым еще не сформировались нормы. Этот вакуум обязывает серьезно отнестись к происходящему всех участников процесса: заказчика обучения, разработчиков системы, пользователей, которые обучают, и пользователей, которые обучаются.
Что тогда такое этика ИИ в практическом применении? Это вполне конкретные вопросы: можно ли доверять решению модели, если оно касается человека — приема на работу, постановки диагноза, выдачи кредита, оценки знаний на экзамене? Кто должен нести ответственность, если алгоритм ошибся? Как объяснить пользователю, почему система приняла именно такое решение? Насколько данные, на которых она обучена, отражают реальность без перекоса и скрытой предвзятости?
И у этого есть практический эффект. Доверие пользователей строится не только на стабильной работе технологии, но и на ее понятном и предсказуемом применении. В России этой темой занимается Альянс в сфере искусственного интеллекта. Сейчас организация готовит уже второе издание Белой книги этики ИИ, в которой будет отдельный раздел, посвященный образованию.
Интересно ли было бы вам разобраться в Белой книге этики подробнее? Может быть вы уже сталкивались с неэтичным использованием ИИ? Пишите в комментариях.
Марат Немешев
директор департамента цифровых решений ООО ЛАНИТ-ТЕРКОМ
преподаватель кафедры системного программирования СПбГУ
член комиссии по реализации кодекса этики Альянса в сфере ИИ
https://ethics.a-ai.ru
Создаёте лучшие продукты для обучения? Обязательно участвуйте в Премии Digital Learning 2026!
