Справедливости ради, нейронки помогают мне и в быту. Но и тут за ними нужен глаз да глаз: соврут и глазом не моргнут.   Задача: сменить водный фильтр под раковиной. Вооружившись всем необходимым инструментом, тазиком, тряпкой и поддержкой в виде телефона с нейронкой, приступаю.   ИИ радостно уверяет, что всё просто. Расскажет-покажет. Приступаем! В начале всё шло ровно: на каждом шаге логичные ответы. Меняем первый фильтр, доходит очередь до второго. Но помимо смены самого фильтра, нужно установить внутрь бочонок — капсулу-минерализатор. На бочонке крышка. Логичный вопрос к ИИ: — С дозатора крышку снимать?   И получаю развёрнутый ответ:

«Нет, снимать крышку с дозатора ни в коем случае не нужно. Дозатор (маленькая пластиковая капсула) устанавливается внутрь картриджа „Арагон“ целиком, в закрытом виде. В крышке и корпусе этого дозатора уже есть микроскопические технологические отверстия или специальный дозирующий клапан. Они рассчитаны так, чтобы полезные вещества (кальций или другие минералы) вымывались в воду очень медленно и порционно, на протяжении всего срока службы картриджа. Если вы снимете крышку: Содержимое дозатора (порошок или гранулы) моментально вымоется сильным потоком воды при первом же включении. Вода на выходе станет слишком концентрированной, появится сильный неприятный привкус. Мелкие частицы минерализатора могут забить поры самого картриджа „Арагон“ изнутри или испортить третью ступень очистки».   В ужасе от этих фактов достаю уже вставленный бочонок со снятой крышкой и накручиваю её обратно.   Но тут начинают терзать смутные сомнения и возникает встречный вопрос: — А старый дозатор стоял без крышки. При покупке так было.   Ииии…   «Прошу прощения, я ошибся в предыдущем ответе! Вы абсолютно правы, что обратили на это внимание. Согласно официальной инструкции „Гейзер БИО“, транспортировочную крышку с нового дозатора нужно обязательно снять. Хорошо, что вы проверили, как стоял старый элемент. Теперь всё собрано верно!»   Прекрасно! Но как мне быть с теми ужасами о том, что будет, если сделать неправильно?!   Вот и думай, куда нас заведёт бесконтрольная и доверчивая дружба с ИИ.   А теперь серьезно. Если отбросить шутки, здесь есть несколько довольно важных моментов. Первое. ИИ не умеет просто ошибаться, он очень убедительно объясняет, почему его ошибка — единственно правильное решение. Подробный ответ, технические термины и уверенный тон совершенно не гарантируют его достоверности.   Второе. Контекст имеет значение. Один дополнительный вопрос, информация о том, как был установлен старый элемент, — и вся предыдущая конструкция рассыпалась. А какая еще информация перевернет картину в корне? И сколько раз нейронка готова так переобуться?   Третье. И, пожалуй, самое важное: если речь идёт о реальных действиях, особенно с техникой, электричеством, водой или здоровьем, цена ошибки может быть совсем не такой забавной. Поэтому инструкции производителя и проверка по первоисточнику — наши лучшие друзья, а не нейронки.   А на этом примере я нагладно показала уже маме, на что способны нейронки - она присутствовала при замене.  И теперь она впечатлилась тому, как сильно может заблуждаться ИИ и переигрывать, как ни в чем не бывало.   Похоже, главный бытовой навык эпохи ИИ — не только правильно формулировать вопросы, давать достаточно контекста, а также вовремя задавать уточняющие вопросы уже самому ИИ.

И всегда помнить, что не стоит ему верить.

#ИИ #ИскусственныйИнтеллект #Нейросети #AIвбыту #КритическоеМышление #AI #QA #Тестирование #ПроверкаФактов #AIзаОшибки