Экс-сотрудник OpenAI Леопольд Ашенбреннер: Гонка за AGI уже началась!

Создано 6 Июнь, 2024 • Про Искусственный интеллект • 380 просмотров

Недавно уволенный из OpenAI Леопольд Ашенбреннер из отдела SuperAlignment размышляет о будущем AGI — нового этапа развития искусственного интеллекта.

Следующие десять лет: каким они будут

Сан-Франциско превратится в эпицентр будущих инноваций. Вокруг этого города активно обсуждаются масштабные проекты, бюджет которых варьируется от 10 до 100 миллиардов долларов, по итогу суммы могут достигать триллионов. Борьба за энергоресурсы, за каждый трансформатор напряжения, становится все острее, и одновременно с этим растут объемы инвестиций.

Американская бизнес-индустрия готовится к значительным инвестициям в индустриальное развитие. Ожидается, что к 2030 году производство энергии увеличится многократно, поддерживая энергозатратные технологии от Пенсильвании до Невады.

Начинается гонка за создание искусственного общего интеллекта (AGI). Ученые и разработчики стремятся создать ИИ, способный мыслить на более высоком уровне. Ожидается, что к 2026 году такой ИИ превзойдет по умственным способностям студентов, а к 2030 году — специалистов в области IT-технологий, став настоящим сверхразумом. Это неизбежно вызовет страх и бурные обсуждения в сфере национальной безопасности, которых не было уже полвека. Что нас ждет? Возможное соперничество с Китаем или даже военное противостояние.

Леопольд Ашенбреннер, работавший в команде под руководством Ильи Суцкевера, был уволен в начале апреля этого года. Вместе с ним компанию покинул Павел Измайлов, и причиной увольнения стала «утечка информации».

По мнению экспертов Nvidia, вершина развития ИИ будет достигнута в 2024 году. Однако не все согласны с этим прогнозом, предполагая, что ИИ останется лишь инструментом для прогнозирования или переписывания текстов. Для многих это всего лишь фоновый шум, очередное технологическое новшество, подобное появлению интернета.

В настоящее время лишь немногие специалисты лабораторий Сан-Франциско обладают реальным пониманием происходящего. Хотя их часто считали безумцами, они смогли предсказать развитие искусственного интеллекта на несколько лет вперед. Правы ли они? Это покажет время. Однако эти люди обладают выдающимся интеллектом и уникальным мышлением, стоя у истоков современных технологий. Если их прогнозы сбудутся, нас ожидает очень интересное время.

От GPT-4 к AGI: Новые возможности

В течение последних четырёх лет мы стали свидетелями невероятного прогресса в развитии искусственного интеллекта, который, говоря метафорически, эволюционировал от уровня дошкольника до умного подростка. Если текущие темпы роста сохранятся, мы можем ожидать значительного прорыва уже к 2027 году. Это связано с повышением эффективности алгоритмов, улучшением вычислительных технологий и эволюцией ИИ от простых чат-ботов до сложных интеллектуальных агентов.

От AGI к сверхинтеллекту: шаги на пути к будущему

Прогресс в сфере искусственного интеллекта не ограничится достижением уровня человеческого интеллекта. Уже сегодня многие AGI-системы позволяют удвоить скорость научных исследований. Этот этап знаменует начало новой эры, которая, однако, сопряжена с определенными рисками.

Погоня за триллионным кластером

Заметный рост технокапитала не остался без внимания. С увеличением доходов от технологий искусственного интеллекта, вполне ожидаемо, что люди начнут инвестировать триллионы в центры обработки данных, усиление вычислительных мощностей и улучшение графических процессоров. Это может привести к увеличению производства электроэнергии в США примерно на 10 процентов.

Неразрешенная задача

Эффективное регулирование значительно более продвинутых систем искусственного интеллекта продолжает оставаться серьезной проблемой. Несмотря на возможность нахождения решений, в условиях быстрого развития ИИ существует риск потери контроля. Управление подобными системами обещает быть чрезвычайно напряженным, и любая ошибка может вызвать нежелательные последствия.

Господство

Тот, кто сможет полностью овладеть искусственным интеллектом, получит значительное преимущество и огромную мощь над другими странами, включая экономическое лидерство. Китай не намерен уступать свои позиции, и в гонке за разработку и контроль над AGI мы все стоим перед риском, стремясь к технологическому доминированию.

Проект искусственного общего интеллекта

Гонка за искусственным общим интеллектом (AGI) — это не вымысел, и она набирает обороты. Очевидно, что органы национальной безопасности не останутся в стороне, и к 2028 году (примерно) можно будет ожидать запуска правительственного проекта. Стартапы не смогут самостоятельно справиться с управлением и контролем такого мощного искусственного разума. Итоговые разработки, скорее всего, будут вестись в правительственных секретных лабораториях.

Реальность AGI: что, если прогнозы сбудутся?

Суперинтеллект станет мощной силой, выходящей за рамки обычного программного обеспечения с открытым исходным кодом; это вопрос национальной безопасности. Чтобы обеспечить безопасность и полный контроль над AGI, американские лаборатории должны поставить интересы страны на первое место. Понимая огромные риски, связанные со сложностью и технологической продвинутостью этой структуры, важно сначала признать уровень угрозы и сформировать команду высококлассных специалистов, которые подойдут к этой задаче с максимальной серьезностью.

В мире существует лишь несколько сотен человек, которые действительно осознают текущие тенденции в развитии ИИ и связанные с этим потенциальные риски.

В тени работают несколько людей, стремящихся предотвратить кризис: мы, ваши друзья и знакомые. Риск саморазрушения высок. Пока миром управляют люди и их идеи. Как долго это продлится, и станет ли финальная глава человеческого правления достойным эпилогом? Время покажет.