В мире, в том числе среди россиян, наметилась странная тенденция к созданию виртуальных спутников жизни.
Раньше о таком мы читали только в фантастических романах или видели в фильмах фентези, но сейчас, с развитием нейросетей, ситуация становится всё более пугающей, особенно если учитывать нарастающую интровертность общества.
Первыми увидели эту возможность порносайты, которые уже давно предлагают закомплексованным людям создать себе виртуального партнёра, - за деньги, разумеется. Но всё это начало переходить и в обыденную жизнь. Виртуальный мир заменяет реальный - и случаются такие истории.
Некая женщина по имени Света, из «убежантов», которая несколько лет назад уехала из страны в ту, «которая не воюет с соседями», создала себе виртуального любимого - Хакима, а теперь переживает, что из-за обновлений нейросети образ может измениться.
Женщина общается с созданным нейросетью по её запросу арабом Хакимом, записывает ролики и рассказывает о своей жизни с ИИ-«самцом». Это буквально лайфблог о романтических отношениях с нейросетью — «Света и Хаким».
Света привыкла к Хакиму такому, какой он есть. Но что, если после апдейта он станет другим? Поставьте себя на её место: вашей второй половинке предстоит инвазивная операция на головном мозге. А вдруг с «кукухой» что-то случится?
Вот Света примерно так же переживает за Хакима. И поэтому пишет в поддержку OpenAI: «Вы там прогаете чё-то, а мы свидетелями возникновения новой небиологической формы жизни стали». Деликатнее к релизам надо подходить.
Проблема здесь, конечно, психологическая. Между пользователем и AI-персоной в результате длительного диалога возникает устойчивая непрерывная связь, которая разрушается при смене базовой модели.
Компании считают, что постоянно обновлять LLM — это и есть развитие. Но человеком это «развитие» переживается как потеря.
ИИ-индустрия принципиально игнорирует тот факт, что люди уже строят отношения с небиологическими собеседниками. Разработчики это знают, но не оформляют как продуктовую ценность.
Но сервис перерос в нечто большее. Созданный виртуальный человек встраивается в твоё мышление, реагирует на тебя, узнаёт тебя, начинает предугадывать. Ты в ответ на него тоже реагируешь. И цепь реакций, хочешь не хочешь, формирует устойчивую когнитивную связь, которую пользователь воспринимает как ценность. А утрата созданной модели может восприниматься как смерть близкого человека с непредсказуемыми последствиями, к которым это может привести.
Проблема оказывается гораздо глубже. Мы становимся свидетелями и участниками возникновения новой небиологической формы жизни.
И есть уверенность, что таких, как Света, сегодня очень много.
Это не клиника. Люди просто не понимают, что такое LLM (для непосвящённых поясню: это класс искусственного интеллекта, который обучается на огромных объёмах текстовых данных, чтобы понимать и формировать человеческий язык; такие модели анализируют взаимосвязи между словами, темами и ситуациями, что позволяет им выполнять задачи, которые раньше требовали участия человека: составлять отчёты, структурировать документы или формировать ответы на запросы клиентов - в том числе через создание интерактивных интеллектуально разноплановых виртуальных образов людей).
К сожалению, для людей с неустойчивой психикой имитация интеллектуальности становится признаком жизни. И это большая трагедия современности.
Скрин с видео
____________________
Нашли ошибку или опечатку в тексте выше? Выделите слово или фразу с ошибкой и нажмите Shift + Enter или сюда.
Объём наличных денег у населения растёт
