Гендиректор БИОРГ Руслан Алигаджиев: «ИИ не должен принимать решение за человека»

Почему в мире разворачивается борьба за лидерство в регулировании ИИ? Какие выводы из этого может сделать Россия? Несет ли ИИ реальные угрозы и можно ли их нивелировать, не отказываясь от преимуществ технологии? CEO «Биорг» Руслан Алигаджиев рассказал Comnews.

В мире задумались, как регулировать искусственный интеллект (ИИ) после того, как генеративная модель ChatGPT от OpenAI продемонстрировала прорывные возможности по изготовлению контента.

Блетчли-парк, сэр

1-2 ноября 2023 года правительство Великобритании организовало международный саммит по безопасности в сфере ИИ (AI Security Summit).  В первый день подписали международную декларацию Блетчли, в которой США, Британия, Европейской союз и Китай, всего 28 стран, признают, что ИИ несет катастрофические угрозы для человечества.

Примечателен финт по демонстрации лидерства со стороны США, которые максимально использовали инфоповод англичан для прогрева собственной ИИ-повестки. 30 октября, прямо накануне саммита, вице-президент Соединенных Штатов Камала Харрис выступила в посольстве США в Лондоне, где рассказала, что Штаты запускают собственный Институт безопасности в сфере ИИ

В этот же день, 30 октября, президент США Байден подписал административный указ «О безопасном, надежном и заслуживающем доверия использовании ИИ». Администрация дала поручения всем органам власти разработать стратегии внедрения ИИ в повседневную жизнь, учитывая защиту прав и свобод граждан, а с ведущими международными партнерами договориться о единых стандартах применения ИИ-технологий.

В августе 2023 года Китай принял довольно строгие правила регулирования в сфере ИИ — хотя их и смягчили по сравнению с изначальным вариантом. Например, в Поднебесной требуется специально маркировать контент, созданный при помощи генеративного ИИ, чтобы не распространялись дипфейки. Всего 24 правила регулирования ИИ.

Кому выгодно контролировать?

Существует мнение, что вся глобальная шумиха по поводу угроз, которые ИИ представляет для человечества — это ловкий трюк большого брата. Вроде как технологически корпорации хотят таким образом спровоцировать правительства на максимальное регулирование ИИ-технологий. Причина в том, что они не хотят конкурировать с молодыми, но талантливыми разработчиками открытого программного кода.

Что нам с этого и что происходит у нас?

В России и СНГ тоже нарастает деятельность по поводу возможного сдерживания угроз со стороны технологии искусственного интеллекта.

С весны 2023 году Объединенный институт проблем информатики Национальной академии наук Белоруссии разрабатывает проект модельного закона об ИИ для стран СНГ. Цель  — формализовать правила внедрения искусственного интеллекта в жизнедеятельность населения.

В России самый известный на сегодняшний день документ — «Кодекс этики в сфере ИИ», к которому присоединились уже около 270 организаций.

Возможно, что при большом числе рабочих групп и организаций не хватает определенной централизации. Можно продолжить логику всеобщих усилий по развитию и регулированию ИИ и предложить создать своеобразное министерство. Оно вполне может стать сетевой организацией, сочетающей в себе лучшую экспертизу от государства, ведущих научно-исследовательских, правовых институтов, центров компетенций и, конечно, бизнеса и представителей союзных государств.

В чем реальные риски для людей: глазами бизнеса

Согласно недавнему отчету IBM, ИИ не лишит человека работы, а просто изменит то, как мы работаем. Успешными в новых условиях будут сотрудники, которые научатся применять ИИ в повседневной деятельности. Они и выиграют конкуренцию у менее подкованных в цифровом смысле коллег.

Как сделать, чтобы ИИ работал корректно и не создавал проблем

Во-первых, ИИ надо непрерывно обучать. Для этого требуется качественно размечать наборы данных, наблюдать за результатами обучения, контролировать и корректировать их. С должной степенью аккуратности выполнять подобную работу могут только люди. Разрешить ИИ обучаться автоматически на открытых данных в интернете — то же самое, что дать ребенку телефон и планшет и оставить его самостоятельно потреблять контент. В лучшем случае какой-нибудь обученный по такой методике чат-бот начнет материться или угрожать — прецеденты уже были.

В технологических компаниях понимают риски неконтролируемого обучения ИИ. Так, «Яндекс» популяризирует профессию AI-тренеров для обучения собственного GPT. Компания Amazon уже давно запустила платформу Mechanical Turk — где люди помогают обучаться нейросетям. Как мы видим, ИИ обучают с помощью краудсорсинговых моделей, распределенной сети «операторов», так называемой силы толпы.

Во-вторых, ИИ не должен принимать решение за человека. Что ИИ действительно может — это выступать цифровым помощником человека. Назовем это третьей системой принятия решений. На рынке оцифровки и распознавания есть запрос на таких помощников — системы на базе технологий обработки естественного языка.

Например, технология для анализа смысловых сущностей в тексте технических заданий выдаст потенциальному покупателю предложение по нужному продукту или прибору, которые в наличии у поставщика.

Перспектива ИИ: платформенное развитие и электронный помощник

Гибридный подход к применению ИИ, когда человеческий интеллект и искусственный работают вместе в рамках единой платформы, — долговременный технологический тренд. Наша компания видит это на примере рынка оцифровки документов: даже современные нейросети не справляются со спецификациями различных документов, поэтому к финальной обработке результатов, как правило, подключают людей — так называемых верификаторов. Их задача — вручную распознавать и внести в базу данных информацию, с которой не справился ИИ, дообучить нейросеть.

В подобной парадигме уже начинает действовать бизнес. Например, одна их ведущих консалтинговых компаний Ernst and Young в сентябре 2023 года объявила, что запускает платформу для трансформации бизнеса через консалтинг и применение ИИ-технологий. Платформа объединяет потенциал ИИ и экспертизу людей. ИИ-технология рассматривается в качестве инструмента, который должен находиться в умелых руках.

Полную версию колонки читайте на сайте Comnews.