Что такое GPT-3 и почему он меняет облик искусственного интеллекта?

Было много энтузиазма и ажиотажа в сфере искусственный интеллект (ИИ) вокруг недавно созданной технологии под названием GPT-3. Проще говоря, это ИИ, который превосходит все, что было до него, в создании контента с языковой структурой — человеческим или машинным языком.

ГПТ-3 был разработан OpenAI, исследовательская компания, соучредителем которой является Илон Маск, и которая была названа самым значительным и полезным достижением в области искусственного интеллекта за последние годы.

Однако существует некоторая путаница в отношении того, что он делает (и, что более важно, чего он не делает), поэтому здесь я попытаюсь упростить его для любых нетехнических читателей, заинтересованных в понимании основных принципов, лежащих в его основе. Я также обсужу некоторые проблемы, которые он приносит, а также почему некоторые считают, что его важность была несколько преувеличена шумихой.

Кредиты изображений: https://pixabay.com/photos/robot-mech-machine-technology-2301646

На что способен GPT-3?

GPT-3 способен производить все, что связано с языковой структурой, включая ответы на вопросы, написание эссе, обобщение длинных книг, перевод языков, создание заметок и даже написание компьютерного кода.

Действительно, в одна онлайн презентация, показано, как создать приложение, которое выглядит и работает аналогично приложению Instagram, используя plugin для широко известного программного инструмента Figma.

Это, конечно, совершенно новое явление, и если оно окажется полезным и полезным в долгосрочной перспективе, это может иметь серьезные последствия для будущей разработки программного обеспечения и приложений.

Из-за того, что код еще не является общедоступным (подробнее об этом позже), доступ ограничен для избранной группы разработчиков через API, управляемый OpenAI. С момента выпуска API в июне этого года появились стихи, проза, новостные репортажи и художественная литература.

Эта статья особенно интересна тем, что показывает, как GPT-3 довольно убедительно пытается убедить нас, людей, в том, что он не причиняет вреда. Хотя его роботизированная честность заставляет его признаться, что «я знаю, что не смогу избежать уничтожения человечества», если злые люди подтолкнут его к этому!

Как работает GPT-3?

GPT-3 — это модель прогнозирования языка с точки зрения широких категорий приложений ИИ. Это означает, что это алгоритмическая структура, которая берет один фрагмент языка (входные данные) и преобразует его в то, что, согласно алгоритму, будет наиболее полезным фрагментом языка для пользователя.

Это возможно из-за обширного анализа обучения, выполненного на огромном количестве материала, необходимого для «предварительного обучения». По сравнению с другими алгоритмами, которые не были обучены, OpenAI уже израсходовал огромное количество вычислительных ресурсов, необходимых для GPT-3, чтобы понять, как работают и строятся языки. По данным OpenAI, время вычислений, необходимое для этого, стоило 4.6 миллиона долларов.

Чтобы научиться генерировать языковые конструкции, такие как предложения, он использует семантическую аналитику — не только слова и их значения, но и то, как использование слов меняется в зависимости от других слов в тексте.

Его также называют обучением без учителя, потому что обучающие данные не содержат никакой информации о том, что представляет собой «правильный» или «неправильный» ответ, как это делает обучение с учителем. Вся информация, необходимая для вычисления вероятности того, что вывод удовлетворит требованиям пользователя, получается непосредственно из обучающих текстов.

Это достигается путем анализа употребления слов и предложений, их последующего разбора и попыток их реконструкции.

Например, во время обучения алгоритмы могут столкнуться с фразой «в доме красная дверь». Затем снова дается фраза с пропуском слова — например, «у дома есть красный крестик».

Затем он изучает текст в своих обучающих данных — сотни миллиардов слов, организованных в осмысленный язык — и выбирает, какое слово следует использовать для воспроизведения исходной фразы.

Начнем с того, что почти наверняка ошибешься — может быть, миллионы раз. Тем не менее, в конечном итоге он придумает правильное слово. Сравнивая результат с исходными входными данными, он определяет, является ли вывод правильным, и «вес» присваивается шагу алгоритма, который дал правильный ответ. Это означает, что со временем он «узнает», какие стратегии с наибольшей вероятностью приведут к правильному ответу в будущем.

Величина этого динамического процесса «взвешивания» — вот что отличает GPT-3 как крупнейшую в мире искусственную нейронную сеть. Как уже отмечалось, то, что он позволяет достичь, не является чем-то новым, поскольку трансформирующие модели языкового предсказания существуют уже много лет. Однако система динамически сохраняет и использует 175 миллиардов весов обрабатывать каждый запрос — в десять раз больше, чем у ближайшего конкурента, созданного Nvidia.

Два ИИ говорят о том, как стать человеком. (ГПТ-3)

Какие трудности связаны с GPT-3?

Способность GPT-3 генерировать язык была отмечена как лучшая из когда-либо виденных в искусственном интеллекте; тем не менее, есть определенные критические моменты, которые следует учитывать.

Сэм Альтман, генеральный директор OpenAI, заявил: «Ажиотаж вокруг GPT-3 чрезмерный». ИИ коренным образом изменит мир, но GPT-3 — это всего лишь проблеск».

Начнем с того, что в настоящее время это чрезвычайно дорогой инструмент из-за огромной вычислительной мощности, необходимой для выполнения его работы. Это означает, что расходы на его внедрение будут непомерно дорогими для небольших предприятий.

Кроме того, это закрытая система или система черного ящика. Поскольку OpenAI не раскрывает всех фактов о том, как работают его алгоритмы, любой, кто зависит от него, чтобы отвечать на запросы или создавать ценные продукты, не будет полностью уверен, как они были созданы.

В-третьих, производительность системы еще не идеальна. Хотя он способен создавать короткие сообщения и простые программы, его вывод становится менее полезным (действительно, он описывается как «тарабарщина»), когда его просят создать что-то более длинное или более сложное.

Это, несомненно, проблемы, которые со временем будут решены — по мере того, как стоимость вычислительной мощности продолжает падать, создается стандартизация вокруг открытых платформ ИИ, а алгоритмы настраиваются с большими объемами данных.

В целом разумно заключить, что GPT-3 дает результаты, которые на световые годы опережают все, что наблюдалось ранее. Любой, кто видел результаты языка ИИ, понимает, насколько изменчивыми они могут быть, и результаты GPT-3, несомненно, кажутся на шаг впереди.

Когда мы увидим, что он должным образом передан в руки публики и доступен для всех, его производительность должна улучшиться еще больше.

Читайте также: 

Джитендра Васвани
Этот автор проверен на BloggersIdeas.com

Джитендра Васвани — специалист по цифровому маркетингу и известный международный докладчик, который ведет образ жизни цифровых кочевников, путешествуя по миру. Он основал два успешных веб-сайта, BloggersIdeas.com & Агентство цифрового маркетинга DigiExe из которых его истории успеха расширились до написания «Inside A Hustler's Brain: In Pursuit of Financial Freedom» (20,000 2 копий, проданных по всему миру) и участия в «International Best Selling Author of Growth Hacking Book 10000». Джитендра разработал семинары для более чем XNUMX профессионалов в области цифрового маркетинга на всех континентах; с намерениями, в конечном счете, направленными на создание заметных различий, помогая людям построить бизнес своей мечты в Интернете. Джитендра Васвани — влиятельный инвестор с впечатляющим портфелем, включающим Станция изображений. Чтобы узнать больше о его инвестициях, найдите его на LinkedIn, Twitter и Facebook.

Партнерское раскрытие: Полная прозрачность - некоторые ссылки на нашем веб-сайте являются партнерскими ссылками, и если вы используете их для совершения покупки, мы будем получать комиссию без дополнительных затрат для вас (вообще никакой!).

Оставьте комментарий