Слепое доверие ИИ: опасный навык

Одна моя коллега, в прошлом учитель русского языка и литературы, читала новую статью в Базе знаний и наткнулась на слово «паллета». Она написала в групповом чате авторам-экспертам, что по нормам русского словаря правильно писать «палета». Для неё словарь всегда был первоисточником. В чате неожиданно разгорелись дебаты. Автор возразил, что спросил в интернете, и голосовой помощник Алиса выдала вариант «паллета» со ссылкой на сайт одной логистической компании. Другой эксперт углубилась в поиск, нашла статью в «Википедии» и рассказала о происхождении слова и якобы правильном написании через две «л». Коллеге пришлось дать ссылку на нормативный документ, где указано, когда слово «палета» внесено в орфографический словарь и как его надлежит писать. Этот случай — не про грамотность. Это наглядный пример того, как сотрудники с невысоким уровнем критического мышления принимают решения, опираясь на непроверенные источники: ответ голосового помощника, сайт неизвестной компании, общедоступную энциклопедию, которую может редактировать кто угодно. Чем это опасно для компании Мы живём в среде, где искусственный интеллект, автоматизированные подсказки и информационный шум ежедневно вторгаются в работу линейного персонала. Менеджер по продажам получает готовый скрипт от системы, маркетолог — сгенерированный отчёт, юрист — проект документа, логист — сводку от системы управления цепочками поставок. Если сотрудник не проверяет сведения, а принимает их как данность, компания сталкивается с финансовыми потерями, правовыми рисками, проваленными рекламными кампаниями и остановками операционных процессов. Отсутствие привычки перепроверять информацию делает организацию уязвимой. Жёсткие регламенты устаревают быстрее, чем переписываются. Сотрудник, не склонный к анализу, не заметит противоречий, не увидит скрытых связей и не распознает манипуляцию. Он будет действовать по принципу «так в инструкции» — даже если инструкция ведёт к ошибочным последствиям. Как выявить уровень критического мышления у линейного сотрудника Критическое мышление не равно высокому интеллекту или эрудиции. Это готовность приостановить поспешное суждение и задать вопросы: «Насколько обоснованно?», «Кто сказал?», «Какова цель источника?», «Достаточно ли данных?». Для оценки мы выделяем пять наблюдаемых поведенческих индикаторов: 1. Интерпретация: Способен понять суть проблемы, не искажая её под свои убеждения. 2. Анализ: умение отделять факты от мнений, видеть причинно-следственные связи. 3. Оценка (Скепсис): Оценивает надежность источника и его мотивов. 4. Инференция (Умозаключение): построение выводов на основе имеющихся данных с признанием их неполноты. 5. Пояснение и самокоррекция — готовность обосновать ход рассуждений и изменить точку зрения при появлении новых фактов. На практике можно применить три простых способа оценки. Первый — разбор намеренно искажённой бизнес-ситуации, в которую встроены ошибки или ложные зависимости. Второй — короткое ролевое упражнение, где сотруднику предлагается подвергнуть сомнению готовое предложение. Третий — наблюдение в первые недели работы: новичку даётся инструкция с заложенным противоречием, и отслеживается его реакция. Как перевести наблюдения в решение о развитии Каждую из пяти составляющих оцените по трёхбалльной шкале (от «не проявляется» до «стабильно присутствует») Максимальный итог — 15 баллов. Если сотрудник набирает менее 7 баллов, критическое мышление развито слабо и требует системного внимания. Диапазон 8–11 баллов говорит о среднем уровне: человек способен к анализу, но нуждается в целенаправленной поддержке. Результат 12–15 баллов свидетельствует о зрелой компетенции. На основании этой оценки принимается решение: при низком и среднем уровне включать сотрудника в программы развития, при высоком — поощрять наставничеством и участием в сложных проектах. Важнейшее условие — личный пример руководителей, которые первыми демонстрируют интеллектуальное смирение и пересматривать свою точку зрения. Лучше потратить время на развитие этого навыка, чем разбирать последствия слепого доверия ИИ подсказкам и непроверенным отчетам.

Слепое доверие ИИ: опасный навык | Сетка — социальная сеть от hh.ru