Москва. 20 июня. — Илья Суцкевер, сооснователь разработавшей чат-бота ChatGPT американской компании OpenAI и один из ведущих в мире специалистов по машинному обучению и искусственному интеллекту (ИИ), запустил ИИ-стартап Safe Superintelligence Inc., пишет Financial Times.
Это произошло всего месяц спустя после его ухода из OpenAI, где он был главным научным консультантом, входил в совет директоров и сыграл большую роль в ее раннем выводе на ведущие позиции в сфере генеративного (создающего контент и используемого в ChatGPT — ИФ) ИИ.
«Разработка безопасного суперинтеллекта (safe superintelligence, SSI) – важнейшая техническая проблема нашего времени, — говорится на сайте новой компании. — Мы открыли первую в мире лабораторию, которая занимается только SSI. У нее одна цель и один продукт – безопасный суперинтеллект (ИИ с когнитивными способностями человека — ИФ)».
Бизнес-модель Safe Superintelligence предполагает изоляцию задач в области безопасности и развития от краткосрочного коммерческого давления, отмечается на сайте.
Компания зарегистрирована в США, имеет офисы в Пало-Альто и Тель-Авиве.
Вместе с Суцкевером ее создали другой бывший сотрудник OpenAI Дэниел Леви, а также ИИ-инвестор и предприниматель Дэниел Гросс, работавший партнером в стартап-инкубаторе Y Combinator, которым руководил нынешний глава OpenAI Сэм Альтман.
Гросс в числе прочего имеет доли в GitHub, Instacart, Perplexity.ai, Character.ai и CoreWeave.
Инвесторы Safe Superintelligence не раскрываются.
Суцкевер в конце прошлого года оказался в центре скандала с отставкой Альтмана с поста главы OpenAI. СМИ называли его одним из главных инициаторов решения совета директоров компании уволить Альтмана, который вернулся на должность неделю спустя на фоне возмущения акционеров и партнеров. Состав совета директоров изменился, Суцкевер в него не вошел. В мае он объявил об уходе из OpenAI и анонсировал создание нового проекта.
В 2021 году другой бывший сотрудник OpenAI, отвечавший в ней за безопасность ИИ, основал стартап Anthropic. По данным источников FT, Anthropic привлекла $4 млрд от Amazon и еще сотни миллионов долларов от венчурных инвесторов при общей оценке компании выше $18 млрд.
В мае этого года о переходе в Anthropic сообщил Ян Лейке, работавший в OpenAI в одной команде с Суцкевером. Лейке отметил, что культура безопасности и сопутствующие процессы в OpenAI уступили место «лоснящимся продуктам», а его разногласия с руководством компании оказались неразрешимыми.
OpenAI появилась в 2015 году как некоммерческая исследовательская лаборатория с целью создания суперинтеллекта, или универсального ИИ (УИИ), который будет приносить пользу человечеству. В 2020 году компания открыла бизнес-подразделение, однако, по словам Альтмана, до сих пор руководствуется принципом работы на благо человечества.
Ранее в этом году миллиардер и бывший член совета директоров OpenAI Илон Маск подал в суд на нее, Альтмана и президента компании Грегори Брокмана, обвинив их в недобросовестном ведении бизнеса.
«При новом совете директоров она (OpenAI — ИФ) не просто разрабатывает, но оптимизирует УИИ, чтобы максимизировать прибыль для [инвестировавшей в нее $13 млрд] Microsoft, а не принести пользу человечеству, — отмечается в иске миллиардера. — Ее технологии, включая [лежащую в основе ChatGPT модель] GPT-4, имеют закрытый исходный код, что прежде всего служит собственным коммерческим интересам Microsoft».
По мнению Маска, совет директоров OpenAI был обновлен при участии Microsoft, которая настояла на отставке членов, выступавших за увольнение Альтмана. Конфликт между Альтманом и прежним составом совета был связан с разработкой GPT-4 и следующей потенциальной версией УИИ, которая может поставить под угрозу общественную безопасность, заявил миллиардер.
Благодаря влиянию Microsoft на Альтмана и совет директоров OpenAI они не объявят GPT-4 универсальным искусственным интеллектом, что позволит оставить технологию закрытой и извлекать из нее прибыль, сказал Маск.