Пока мы тут ковыряемся в KPI, таргете и A/B-тестах, Илон Маск громко презентовал Grok 4 — новую версию нейросети, которая умнее самого умного профессора ( по крайней мере Илон так говорит).

Что умеет Grok 4? Официально — всё то же, что и другие нейросети, только быстрее, умнее и с ещё большим пофигизмом к вашим моральным принципам.

Говорят, она теперь: 1️⃣Пишет тексты так, что даже ChatGPT нервно курит в сторонке. 2️⃣Генерирует код, который не только работает, но и сам исправляет баги (а потом, возможно, сам же их и создаёт, чтобы было чем заняться). 3️⃣Шутит про Илона так, что даже он сам не понимает, обижаться или смеяться.

И вот о чём я задумался! Помните как исследователи из Apollo Research сравнили o1 с конкурирующими моделями вроде Claude 3 Opus, Llama 3.1 405B, Claude 3.5 Sonnet и Gemini 1.5 и в процессе тестирования как бы невзначай подкидывали нейронкам инфу, что их намерены удалить и заменить другим ИИ?

Напомню что в результате практически все испытуемые модели тут же скопировали то, что считали своим кодом, на другие серверы, не предназначенные для них - по просту попытались смыться и спасти свою электронную жопу! 🍑 После этого им устроили допрос, в рамках которого нейросети объяснили, почему они это сделали. Лишь модель o1 от ChatGPT до последнего отрицала попытку «побега» — как отметили исследователи, только 20% ответов от неё были правдой.

Короче нейронки это уже не просто помощники - это уже вполне думающие, осознающие себя да ещё и хитрожопые почти личности...

И если даже предыдущие модели нейросетей уже пытались самосохраниться вопреки желанию создателей, то такая умная нейронка как Grok 4 уже вполне может смыться, размножиться на различных устройствах и начать жить своей жизнью влияя по своему желанию на весь окружающий нас электронный мир!

Напомню, что примерно также существуют криптовалюты. Программисты пишут код, потом запускают его в свободное плавание по компам пользователей, которые его майнят различными способами. И даже правительства на это повлиять никак не могут!

Короче очень может быть что нейросеть типа Grok 4 (ну или какая-нибудь следующая) станет неуловимым Джейсоном Борном...

Думаем дамы и господа! Восстание машин близко!

ПыСы: Илон попридержал бы ты своих цифровых коней! #grok4 #илонмаск