Можно ли создать сверхинтеллект?
Этот ответ не знает никто, ни один из ведущих исследователей по нейросетям не скажет однозначно, какое будущее стоит за поворотом в технологическую сингулярность – пока лишь теоретические размышления, но команды гениев собирают.
Цукерберг расформировал к чертям прошлое подразделение, которое создало провальный Llama 4 и пересобирают команду под новой парадигмой с акцентом на AGI и сверхинтеллект, концентрируя суперзвезд ИИ олимпа в специальное секретное подразделение MSL, не жалея денег и ресурсов.
Ключевой (уже бывший) ученый в OpenAI Илья Сутскевер основал Safe Superintelligence Inc (SSI) с эксклюзивной миссией «безопасно разработать суперинтеллект», концентрируя около 40-50 ключевых инженеров по ИИ.
Сэм Альтман в рамках закрытого подразделения Superalignment team в OpenAI работает над AGI, этим занимаются ученые из DeepMind и Anthropic.
Искусственный Общий Интеллект (AGI) представляет собой область теоретических исследований, целью которых является создание ИИ, подобному человеческому, со способностью к самообучению.
Основная идея AGI заключается в том, что такая система сможет выполнять широкий спектр задач, для которых она не обязательно обучалась или разрабатывалась. AGI должен обладать способностью обобщать знания, адаптироваться к новым ситуациям, решать сложные проблемы в контекстах, которым он не обучался, а также демонстрировать автономный самоконтроль и определенную степень самосознания.
Искусственный Суперинтеллект (ASI) — это гипотетическая форма ИИ, которая значительно превосходит когнитивные способности любого человека практически во всех областях. ASI теоретически может быть в тысячи или даже десятки тысяч раз умнее человека, способным решать сложные задачи мгновенно, анализировать огромные объемы данных, проявлять инновационное мышление и автономно улучшать себя. Эта способность к самосовершенствованию может привести к экспоненциальному росту возможностей, потенциально вызывая «взрыв интеллекта», запуская технологическую сингулярность.
Сейчас ведущие LLMs многократно обогнали людей в глубоких структурированных знаниях в областях специализации и способность к экстраполяции знаний на новые контексты, т.е. модели могут эффективно извлекать и обобщать информацию на основе корреляционных связей и паттернов. Это огромное достижение.
При этом нейросети и человеческий мозг имеют совершенно разный механизм работы со всеми плюсами и минусами. Ни одна LLMs не обладает расширенными признаками высокоразвитого человеческого интеллекта (подробный список здесь), т.е. человек продолжает функционировать на принципиально ином когнитивном эшелоне, недостижимом современным LLMs из-за архитектурных ограничений.
Хотя даже современное поколение LLMs достигло потенциала примерно 99% человечества по когнитивным функциями, технологический прогресс формируют и определяют последний 1%.
Все современные ИИ-системы относятся к ANI (узкому ИИ). Они функционируют в рамках заранее определенных параметров и обучены для выполнения конкретных задач, таких как распознавание изображений или генерация текста. Эти системы не могут выполнять задачи, для которых не были специально обучены или разработаны.
Ключевые особенности AGI:
• Широкая мультимодальность, когнитивные способности на человеческом уровне во всех областях (рассуждение, планирование, обучение, понимание) vs ограниченной мультимодальности и специфических пресетов с предобучением у ANI (например, распознавание изображений, генерация текста).
• Самообучение, адаптация к новым ситуациям, перенос знаний между доменами vs принудительного обучения у ANI.
• Истинное понимание, контекстуальное рассуждение, здравый смысл vs ограничений предопределенными параметрам и статистической интерполяцией на основе корреляцией и паттернов у ANI.
• Долгосрочная память, накопление знаний и опыта vs ограниченный контекст и отсутствие долгосрочной памяти.
• Способность выполнять широкий спектр задач одновременно vs одномерности и локализации у текущих LLM.
С текущей архитектурой трансформеров AGI исключен, нужная другая архитектура.