МАШИНЫ ТУПЯТ ТОЧНО КАК ЛЮДИ

Две недели назад вместо того, чтобы работать, я решил погонять нейросеть на тему когнитивных искажений. Прикол в том, что эти искусственные мозги страдают теми же ментальными болячками, что и мы с вами.

Представьте ситуацию: бот уверен, что разбирается в квантовой физике, хотя в его модели данных об этом хуй да нихуя. И вот этот цифровой пиздабол начинает выдавать такую убедительную лабуду, что сам в неё верит. Эффект Даннинга-Крюгера во всей красе.

А как вам избирательное восприятие? Подкинул боту пару маркеров о правых взглядах, и он начал выискивать в нейтральном тексте то, что подтверждает эту позицию. Точь-в-точь как ваш упоротый дядя за праздничным столом.

Я понял, что это можно заебись использовать. Маркетинг на этих багах мозга строится десятилетиями, а тут целая новая площадка для манипуляций. Подсветил боту якорь на высокую цену – готово, он уже считает средний ценник "выгодным предложением".

Попробуйте сами – скормите нейросети текст с намеренным уклоном, а потом попросите "объективно" оценить ситуацию. Спорим, она пойдет по проторенной дорожке?

Бот тупит как человек не потому, что он типа разумный, а потому что мы сами его так выдрессировали. Он отражает наши собственные кривые зеркала восприятия.

Только осознавая косяки своего мышления, ты можешь их обойти. Когда понимаешь, что и ты, и искусственный интеллект ведётесь на одни и те же ловушки сознания – начинаешь мыслить чище.

Потому что стрёмно осознавать, что какая-то модель на серверах думает так же криво, как ты сам.