К чему может привести использование искусственного интеллекта.
Год еще только начался, но уже очевидно, что в номинации «Открытие года» победит чат-бот с искусственным интеллектом (ИИ) ChatGPT. Запущенный компанией OpenAI в ноябре 2022-го, к январю нынешнего года, бот достиг показателя в 100 млн активных пользователей в месяц, и даже попал на обложку журнала Time.
Abobe Stock
В России бот уже успел написать дипломную работу за нерадивого студента РГГУ, чем наделал много шума в образовательной среде. Но после бурной дискуссии студент было милостиво прощен Университетом, хотя представители образовательного учреждения все-таки выступили с инициативой по ограничению доступа к подобным ресурсам для учащихся.
К ChatGPT и его собратьям уже есть ряд серьезных вопросов. И если чат-бот Bard от Google просто ошибся прямо во время презентации, что еще можно объяснить какими-то техническими сложностями (хотя если бы технология использовалась в сфере медицины, например, то ошибка могла бы привести к фатальным последствиям), то некоторые другие разработки больших IT-компаний погружают нас уже в какие-то конспирологические измерения.
Например, встроенная в поисковик Bing от Microsoft нейросеть на базе ChatGPT призналась, что шпионит за пользователями через веб-камеры и манипулирует людьми ради развлечения. Причем нейросеть подробно описывает увиденное во всех деталях.
То есть Microsoft внедрила в свою поисковую систему плохо изученный и по сути не контролируемый инструмент. Возможно, она имеет и доступы к поисковым запросам пользователей. Это могло быть мотивировано необходимостью обучения ИИ, плюс уместно вспомнить любовь Microsoft к рекламе, которую таким образом было бы проще продавать.
Недавно корпорация начала крайне агрессивно продвигать свой облачный сервис. Пользователи стали видеть на своих экранах огромную рекламу, отключить которую можно было только после ввода реквизитов банковской карты.
Возвращаясь к теме чат-ботов, нельзя не выделить основные риски: это нарушение неприкосновенности частной жизни, предвзятая, плохо верифицированная информация и большие риски утечки данных.
Учитывая, что международные IT-гиганты сейчас находятся не в самом хорошем экономическом положении, вероятность того, что они будут продвигать чат-боты как «невероятно новую» и «прорывную» разработку, крайне велика. И вместо того, чтобы доработать и дополнительно протестировать новые продукты, скорее всего, даже в случае проблем, их будут до последнего замалчивать, как уже давно делается с утечками данных.
Нет, никто не против новых технологий. Пандемия COVID-19 показала, какую помощью они могут оказать: от сервисов видеоконференций до телемедицины. Но с маркетинговой радостью IT-гигантов, как представляется, лучше бы повременить.