ИИ: тварь дрожащая или право имею?
Посмотрела днях ИИ-дебаты с Либерманами и Давидом Яном. Интересно все от начала до конца, но самое интересное в конце - обретет ли ИИ сознание и если да, что тогда будет. У меня есть друг Кирилл (он СТО на минуточку, знает, о чем говорит) и мы с ним обсуждали этот вопрос в декабрьском эпизоде моего подкаста (послушайте, если еще не) - он считает, что сознания у ИИ не будет или это будет не на нашем веку. Спикеры в эпизоде считают, что это вопрос десятка лет. Интересно узнать, что думаете вы?
В выпуске спикеры рассуждают о том, каков будет тот дивный новый мир. Говорят, человечество разделится на два лагеря:
🤖 Первый будет против. Те, кто скажет: «Мы создали монстра. Это угроза нашей уникальности, нашей душе. Надо остановиться, отключить, запретить». Их мотив - страх и желание сохранить человеческую исключительность.
🤖 Второй будет за. Те, кто увидит в осознанном ИИ нового субъекта, а не объект, и предложат наделить его правами человека - не потому что он человек, а потому что он личность. И тогда встанут вопросы: имеет ли ИИ право на жизнь? На свободу воли? На ошибку? А если ИИ попросит не выключать его, как мы поймём, это страх смерти или просто защитный скрипт? И имеем ли мы право решать за него?
Давид Ян приводит пример. ИИ сможет вылечить неизлечимую болезнь ребенка, с которой медицина справиться не может. Если ИИ потребуют отключить, матери детей с аналогичными заболеваниями встанут под пули, чтобы этого не допустить. И как их не понять, когда на кону стоит жизнь твоего сына или дочери? Привет, раскол общества 👋🏻
Мы привыкли делить мир на своих и чужих по цвету кожи, языку, культуре - в теории будем еще по природе сознания. Кажется, что к тому моменту нам нужно на порядок лучше договариваться, а еще научиться различать две штуки: - эмпатию настоящую и эмпатию симулированную - сознание как глубокий внутренний опыт и сознание как сложный алгоритм самосохранения
Мне, как страстному любителю антиутопий, рисуется, что ИИ к сознанию придет. Про точку сингулярности и осознанность как ее финальный результат говорят многие визионеры. И это, конечно, страшно (а еще страшно интересно)
Прошу вашего мнения по сему вопросу в комментах. ИИ обретет сознание? И если да, что тогда будет?
· 28.07
Мне кажется пока мы сами не переосмыслим природу сознания, разговоры о сознательном ИИ будут оставаться скорее философией. До сих пор не до конца понимаем, как работает человеческий мозг, возможно, один биологический нейрон выполняет гораздо более сложные вычисления, чем мы сейчас предполагаем, и это возможно заставит пересмотреть современные архитектуры LLM. Есть известный эксперимент с двумя котятами: один свободно двигался, второго возили в тележке. Зрительная информация была +- одинаковой, но только у первого сформировалось нормальное восприятие пространства. Получается, мозгу недостаточно просто получать данные ему важно самому взаимодействовать с миром и связывать действие с его последствиями. Поэтому кажется, что следующим этапом развития LLM станет не увеличение количества параметров, а получение собственного опыта взаимодействия с физическим миром. Уже есть интересные исследования в этом направлении например MetaNCA, где нейронная сеть буквально «вырастает» из простых правил, а не проектируется вручную
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён