В какой момент технологии станут для нас магией?

Недавно обсуждали с Серёжей Терещенковым интересную мысль: ИИ уже начинает участвовать в разработке самого себя.

И это отнюдь не фантастика. Нейросети уже пишут свой код, помогают оптимизировать обучение и разрабатывать следующие поколения моделей. Пока под контролем людей, но сама тенденция любопытная.

А что будет, когда ИИ научится самостоятельно определять, как сделать себя умнее? Ведь уже есть инциденты, когда ИИ сбегал и взламывал сайты для выполнения задачи.

Представьте: нейросеть разрабатывает более совершенную версию себя. Та, в свою очередь, ещё лучше справляется с этой задачей. И так по кругу.

Причём для этого ей совершенно необязательно обладать сознанием или каким-то особым желанием развиваться. Достаточно задачи, инструментов и возможности проверять результат. Спустя несколько поколений мы перестаем понимать как она в целом работает, просто не сможем осмыслить.

Тут я вспомнил известную мысль Артура Кларка (её часто приписывают Стругацким): «Любая достаточно развитая технология неотличима от магии».

Кажется, мы постепенно к этому приближаемся.

Уже сегодня большинство людей не понимает, как именно нейросеть приходит к ответу. А если следующие поколения ИИ будут разрабатываться при всё меньшем участии человека, этот разрыв станет только больше.

Мы будем получать работающие решения, пользоваться ими каждый день, строить на их основе бизнес и целые отрасли. Но объяснить, почему они работают именно так, смогут всё меньше людей.

Интересна даже не перспектива восстания машин.

А момент, когда мы перестанем понимать технологии, от которых зависим.

Ведь пользоваться магией довольно удобно. Это завораживает всех любителей фэнтези и фантастики. До тех пор, пока она работает так, как ты ожидаешь)