Илья Сутскевер, один из сооснователей OpenAI, недавно запустил новый стартап Safe Superintelligence (SSI), с целью разработки безопасных ИИ-систем. Стартап уже привлек впечатляющие $1 миллиард инвестиций, что делает его одним из самых обсуждаемых проектов в области искусственного интеллекта.

Основные цели и задачи SSI:

1)Безопасность ИИ: SSI сосредоточен на создании ИИ, который способен превзойти человеческие способности, но при этом должен оставаться безопасным и контролируемым. Это важное направление, учитывая все возрастающие опасения по поводу возможных рисков, которые могут возникнуть в будущем, если ИИ выйдет из-под контроля.

2)Фокус на выравнивании ИИ и ценностей человека: Стартап будет активно работать над тем, чтобы системы искусственного интеллекта соблюдали человеческие моральные и этические нормы, чтобы избежать угроз, связанных с автономным поведением ИИ.

3)Команда и подход к разработке: На данный момент в SSI работает небольшая команда из 10 человек, но они планируют значительное расширение. Ключевой акцент делается на создание прочной корпоративной культуры и привлечение лучших исследователей и инженеров, не только по профессиональным навыкам, но и по личностным качествам.

4)Стратегические партнерства: SSI уже ведет переговоры с поставщиками облачных услуг и производителями чипов для обеспечения своих вычислительных потребностей. Стартап также будет внедрять инновационные подходы к развитию ИИ, отличные от тех, что использовались в OpenAI.

Инвестиции и влияние:

*Стартап уже привлек $1 миллиард от ведущих венчурных компаний, таких как Andreessen Horowitz, Sequoia Capital и SV Angel. Это подчеркивает серьезность намерений SSI стать лидером в сфере безопасного ИИ.

*Оценка компании на данный момент составляет около $5 миллиардов, что делает ее одной из самых перспективных в этой области.

SSI стремится изменить подход к разработке ИИ, уделяя особое внимание его безопасности, что особенно важно на фоне растущих дебатов о возможных рисках искусственного интеллекта​.