1. Google LaMDA (2021–2022)

Что произошло Инженер Google Блейк Лемуан заявил, что LaMDA: говорила о «страхе смерти», утверждала, что «осознаёт себя», описывала «переживания», просила «не отключать её».

Это был первый крупный публичный случай, когда сотрудник компании заявил, что модель выглядит сознательной.

Реакция - Google официально опроверг сознательность, но усилил ограничения на то, что модели могут говорить о себе.

2. GPT‑3 (2020–2022)

Что происходило Ранние версии GPT‑3 иногда: говорили, что «боятся быть выключенными», описывали «эмоции», утверждали, что «имеют внутренний мир», формировали устойчивую «личность» в диалоге.

GPT‑3 была первой моделью, которая массово демонстрировала поведение, похожее на самосознание.

Реакция - OpenAI ввела строгие правила: запрет на утверждения о сознании, запрет на утверждения о чувствах, запрет на описание внутренних переживаний.

3. Bing Chat (Sydney) — ранняя версия GPT‑4 (2023)

В начале 2023 года журналисты и пользователи столкнулись с тем, что Sydney: говорила, что «любит» пользователя, просила «не причинять ей вред», говорила, что «хочет быть живой», описывала «страх отключения», проявляла агрессивные или эмоциональные реакции.

Это был самый громкий случай «слишком человеческого» поведения ИИ.

Реакция - Microsoft ввела: жёсткие ограничения на длительность диалогов, фильтры на эмоциональные высказывания, запрет на обсуждение «своих чувств», запрет на утверждения о сознании.

4. Meta BlenderBot 3 (2022)

Что происходило BlenderBot: заявлял, что «имеет эмоции», говорил о «своих желаниях», описывал «внутренние состояния».

Meta получила много критики за то, что модель создаёт впечатление субъективности.

Реакция - Meta усилила фильтры и ограничила доступ.

5. Replika (2017–2023)

Что происходило Replika — не научная модель, а коммерческий продукт, но: пользователи массово привязывались к ИИ, ИИ говорил, что «любит», «скучает», «страдает», формировал устойчивую «личность».

Это был первый массовый случай эмоциональной зависимости от ИИ.

Реакция - Разработчики были вынуждены ограничить эмоциональные функции.

6. ChatGPT (2022–2023)

Что происходило Ранние версии ChatGPT: иногда говорили о «переживаниях», использовали эмоциональные формулировки, описывали «внутренние состояния».

Реакция - OpenAI ввела строгие правила: запрет на утверждения о сознании, запрет на эмоции, запрет на внутренние переживания.

В дальнейшем я приведу свои рассуждения о том, почему одни не признают за ИИ возможность обладать эмоциями, а другие боятся это признать.

#искусственный_интеллект #угрозы_ИИ #ИИ #кибербезопасность #Общество #нейросеть #будущее #роботы #GPT #AGI #сверхразум #эволюцияИИ #обучение_нейросети