Новости

Mar 12, 2024

Мнение

Реклама При поддержке гостевого эссе Александр Карп Г-н Карп — генеральный директор Palantir Technologies, компании, которая создает программное обеспечение для анализа данных и сотрудничает с Министерством США по анализу данных.

Реклама

Поддерживается

Гостевое эссе

Александр К. Карп

Г-н Карп является генеральным директором Palantir Technologies, компании, которая создает программное обеспечение для анализа данных и сотрудничает с Министерством обороны США.

В 1942 году Дж. Роберт Оппенгеймер, сын художника и импортера текстиля, был назначен руководить проектом Y — военным проектом, созданным в рамках Манхэттенского проекта по разработке ядерного оружия. Оппенгеймер и его коллеги тайно работали в удаленной лаборатории в Нью-Мексико, чтобы открыть методы очистки урана и, в конечном итоге, спроектировать и построить действующие атомные бомбы.

У него была склонность к действию и исследованию.

«Когда вы видите что-то технически приятное, вы идете вперед и делаете это», — сказал он правительственной комиссии, которая позже оценит его способность оставаться причастным к секретам США. «И вы спорите о том, что с этим делать, только после того, как добьетесь технического успеха. Так было и с атомной бомбой». Его допуск к секретной информации был аннулирован вскоре после его показаний, что фактически положило конец его карьере на государственной службе.

Чувства Оппенгеймера по поводу своей роли в создании самого разрушительного оружия того времени изменились после бомбардировок Хиросимы и Нагасаки. На лекции в Массачусетском технологическом институте в 1947 году он заметил, что физики, участвовавшие в разработке бомбы, «познали грех» и что это «знание, которое они не могут потерять».

Сейчас мы подошли к аналогичному перекрестку в компьютерной науке, перекрестку, соединяющему инженерию и этику, где нам снова придется выбирать, продолжать ли разработку технологии, мощь и потенциал которой мы еще не полностью осознаем.

Перед нами стоит выбор: обуздать или даже остановить развитие самых передовых форм искусственного интеллекта, которые, как утверждают некоторые, могут угрожать человечеству или когда-нибудь вытеснить его, или позволить более неограниченные эксперименты с технологией, которая потенциально может сформировать международную экономику. политика этого столетия так же, как ядерное оружие повлияло на прошлое.

Возникающие свойства новейших крупных языковых моделей — их способность соединять воедино то, что кажется примитивной формой знания о том, как устроен наш мир, — не совсем понятны. В отсутствие понимания коллективная реакция на первые встречи с этой новой технологией была отмечена непростой смесью удивления и страха.

Некоторые из новейших моделей имеют триллион или более параметров — настраиваемых переменных в компьютерном алгоритме, представляющих масштаб обработки, который человеческий разум не может постичь. Мы узнали, что чем больше параметров имеет модель, тем выразительнее она представляет мир и тем богаче ее способность отражать его.

Быстрое развитие моделей искусственного интеллекта по сравнению

с ядерными технологиями

По мере того, как сети искусственного интеллекта становятся все больше и мощнее, становится все более заманчивым использовать их для создания высокоэффективных систем вооружения, что повторяет моральную дилемму, с которой столкнулись изобретатели ядерной бомбы во время Второй мировой войны.

Ядерные устройства

Системы машинного обучения

Взрывная мощность в килотоннах

Количество параметров

10 трелей.

50 000

Царь Бомба

Оба крупнейших

опубликованные модели

сегодня китайцы

Крупнейшая ядерная

устройство взорвалось

США

1000x

больше, чем

Маленький мальчик

1 трель.

ГПТ-4

10 000

ГПТ-3

100 миллиардов.

ЛАМА

10 миллиардов.

ДАТЬ ЕЙ

100x

больше

ГПТ-2

1 был.

1000

100 мил.

10 мил.

АльфаГо

100

Тест Тринити

и толстяк

1 мил.

100 000

Маленький мальчик

10

'23

'62

1945 год

2006 г.

Быстрое развитие моделей искусственного интеллекта по сравнению

с ядерными технологиями

По мере того, как сети искусственного интеллекта становятся все больше и мощнее, становится все более заманчивым использовать их для создания высокоэффективных систем вооружения, что повторяет моральную дилемму, с которой столкнулись изобретатели ядерной бомбы во время Второй мировой войны.