Что страшнее: пропустить угрозу или начать наказывать за намерение?

OpenAI уже оказалась ровно в этой точке.

После стрельбы в Florida State University прокуратура Флориды открыла уголовное расследование против компании. По версии властей, ChatGPT подсказывал стрелку, какое оружие выбрать, какие патроны к нему подходят, а также где и в какое время на кампусе больше людей.

Ответ OpenAI: бот не поощрял насилие, а лишь выдавал информацию, которую можно найти в открытых источниках.

Параллельно всплыл ещё один кейс. Компания заранее забанила аккаунт другого будущего стрелка, но не передала данные в полицию, потому что не увидела «немедленной угрозы».

Вот главный конфликт новой эпохи: промолчишь — станешь соучастником. Сообщишь — начнёшь строить цифровой концлагерь.

Подробнее и с источниками — в комментариях.