Может ли ИИ манипулировать сознанием?

Искусственный интеллект при неправильном использовании и отсутствии контроля может начать «жить своей жизнью», и тогда управление им будет утрачено. Такое мнение в интервью ТАСС высказал доктор юридических наук, эксперт Международной ассоциации по фактчекингу Александр Геррейро.

По словам эксперта, ИИ способен оказывать огромное влияние на поведение людей, и сегодня наблюдается колоссальный уровень общественного доверия к нему. Люди обращаются к нейросетям за советом в бытовых вопросах, а также используют их в профессиональной среде. Однако в случае недостаточного понимания и контроля за характеристиками и способами использования ИИ он может подменять реальность и вводить в заблуждение, что представляет собой главную угрозу для любого общества.

Геррейро выделил два подхода к решению этой проблемы. Первый касается регулирования на уровне государств и парламентов. Необходимо ввести четкую ответственность за использование ИИ, избегая размытых норм, которые допускают произвольную трактовку. Второй подход относится к пользователям: люди должны понимать ограничения ИИ. В частности, эксперт отметил, что современные системы не задают вопросов и не мыслят, а лишь анализируют и обобщают существующие источники. ИИ может генерировать контент, в том числе политический, программируя его для направления человека к определенному образу мышления. В связи с этим требуются надзорные органы, которые ограничивали бы такую возможность. Приоритетом должно оставаться человеческое решение.