GPT-4: различия между версиями

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску
[отпатрулированная версия][отпатрулированная версия]
Содержимое удалено Содержимое добавлено
Форма глагола в данном случае определяется опущенным словом "компания"
 
(не показано 28 промежуточных версий 20 участников)
Строка 30: Строка 30:
| альфа-версия =
| альфа-версия =
| дата альфа-версии =
| дата альфа-версии =
| предыдущая = [[GPT-3]]
| следующая = [[GPT-5]]
| nocat =
| nocat =
| викисклад =
| викисклад =
}}
}}
'''GPT-4''' ('''Generative Pre-trained Transformer 4''') — {{Не переведено 3|Мультимодальное обучение|мультимодальная|en|Multimodal learning}} [[большая языковая модель]], созданная [[OpenAI]], четвёртая в серии [[Generative pre-trained transformer|GPT]]. Она была выпущена 14 марта 2023 года и доступна для пользователей [[ChatGPT]] Plus<ref name=":0">{{Cite web|url=https://openai.com/research/gpt-4|title=GPT-4|website=openai.com|date=2023-03-14|archive-url=https://web.archive.org/web/20230314174531/https://openai.com/research/gpt-4|archive-date=2023-03-14|access-date=2023-03-14|url-status=live}}</ref>. [[Microsoft]] подтвердила, что версии [[Bing]], использующие GPT, на самом деле использовали GPT-4 до его официального выпуска<ref>{{Cite web|url=https://techcrunch.com/2023/03/14/microsofts-new-bing-was-using-gpt-4-all-along/|title=Microsoft’s new Bing was using GPT-4 all along|website=techcrunch.com|date=2023-03-14|archive-url=https://web.archive.org/web/20230315013650/https://techcrunch.com/2023/03/14/microsofts-new-bing-was-using-gpt-4-all-along/|archive-date=2023-03-15|access-date=2023-03-14|url-status=live}}</ref>. В качестве [[Трансформер (модель машинного обучения)|трансформера]] GPT-4 была предварительно обучена прогнозировать следующий токен (используя как общедоступные данные, так и «данные, лицензированные сторонними поставщиками»), а затем была доработана с помощью [[Обучение с подкреплением на основе отзывов людей|обучения с подкреплением на основе отзывов людей]]<ref name="GPT4Tech" />.
'''GPT-4''' ('''Generative Pre-trained Transformer 4''') — [[Мультимодальное обучение|мультимодальная]] [[большая языковая модель]], созданная [[OpenAI]], четвёртая в серии [[Generative pre-trained transformer|GPT]]. Она была выпущена 14 марта 2023 года и доступна для пользователей [[ChatGPT]] Plus<ref name=":0">{{Cite web|url=https://openai.com/research/gpt-4|title=GPT-4|website=openai.com|date=2023-03-14|archive-url=https://web.archive.org/web/20230314174531/https://openai.com/research/gpt-4|archive-date=2023-03-14|access-date=2023-03-14|url-status=live}}</ref>. [[Microsoft]] подтвердила, что версии [[Bing]], использующие GPT, на самом деле использовали GPT-4 до его официального выпуска<ref>{{Cite web|url=https://techcrunch.com/2023/03/14/microsofts-new-bing-was-using-gpt-4-all-along/|title=Microsoft’s new Bing was using GPT-4 all along|website=techcrunch.com|date=2023-03-14|archive-url=https://web.archive.org/web/20230315013650/https://techcrunch.com/2023/03/14/microsofts-new-bing-was-using-gpt-4-all-along/|archive-date=2023-03-15|access-date=2023-03-14|url-status=live}}</ref>. В качестве [[Трансформер (модель машинного обучения)|трансформера]] GPT-4 была предварительно обучена прогнозировать следующий токен (используя как общедоступные данные, так и «данные, лицензированные сторонними поставщиками»), а затем была доработана с помощью [[Обучение с подкреплением на основе отзывов людей|обучения с подкреплением на основе отзывов людей]]<ref name="GPT4Tech" />.


В техническом отчёте GPT-4 явно воздерживались от указания размера модели, ссылаясь на «конкурентную среду и последствия для безопасности крупномасштабных моделей»<ref name="GPT4Tech" />. ''[[The Verge]]'' процитировала слухи о том, что GPT-4 существенно увеличит количество параметров со 175 миллиардов в [[GPT-3]] до 100 триллионов, что генеральный директор OpenAI [[Олтмен, Сэм|Сэм Олтмен]] назвал «полной чушью»<ref name="verge" />. Представители США {{iw|Бейер, Дон|Дон Бейер|en|Don Beyer}} и {{iw|Лью, Тед|Тед Лью|en|Ted Lieu}} подтвердили [[The New York Times|New York Times]], что Олтмен посетил [[Конгресс США|Конгресс]] в январе 2023 года, чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ<ref name="nyt-3" />.
В техническом отчёте GPT-4 явно воздерживались от указания размера модели, ссылаясь на «конкурентную среду и последствия для безопасности крупномасштабных моделей»<ref name="GPT4Tech" />. ''[[The Verge]]'' процитировала слухи о том, что GPT-4 существенно увеличит количество параметров со 175 миллиардов в [[GPT-3]] до 100 триллионов, что генеральный директор OpenAI [[Олтмен, Сэм|Сэм Олтмен]] назвал «полной чушью»<ref name="verge" />. Поздние слухи говорят, что GPT-4 имеет 1,76 триллиона параметров, исходя из скорости её работы и по оценке [[Хоц, Джордж Френсис|Джорджа Хотца]].<ref>{{Cite web|url=https://the-decoder.com/gpt-4-architecture-datasets-costs-and-more-leaked/|title=GPT-4 architecture, datasets, costs and more leaked|lang=en-US|first=Maximilian|last=Schreiner|website=THE DECODER|date=2023-07-11|access-date=2024-07-26|archive-date=2023-07-12|archive-url=https://web.archive.org/web/20230712123915/https://the-decoder.com/gpt-4-architecture-datasets-costs-and-more-leaked/|url-status=live}}</ref> Представители США {{iw|Бейер, Дон|Дон Бейер|en|Don Beyer}} и {{iw|Лью, Тед|Тед Лью|en|Ted Lieu}} подтвердили ''[[The New York Times|New York Times]]'', что Олтмен посетил [[Конгресс США|Конгресс]] в январе 2023 года, чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ<ref name="nyt-3" />.


[[OpenAI]] написала в своем блоге, объявляя о GPT-4, что «GPT-4 более надёжен, креативен и способен обрабатывать гораздо более сложные инструкции, чем [[ChatGPT|GPT-3.5]]»<ref name=":0"/>. Она может читать, анализировать или генерировать до 25 000 слов текста, что является значительным улучшением по сравнению с предыдущими версиями технологии<ref name="product-page" /><ref>{{cite AV media|title=GPT-4 Developer Livestream|date=2023-03-14|type=Videotape|publisher=OpenAI|via=YouTube|url=https://www.youtube.com/watch?v=outcGtbnMuQ&ab_channel=OpenAI|access-date=14 March 2023|language=en|archive-date=2023-03-14|archive-url=https://web.archive.org/web/20230314172139/https://www.youtube.com/watch?v=outcGtbnMuQ&ab_channel=OpenAI|url-status=live}}</ref>. The ''New York Times'' писала, что GPT-4 продемонстрировал впечатляющие улучшения в точности по сравнению с GPT-3.5, получила возможность обобщать и комментировать изображения, смогла обобщать сложные тексты, прошла экзамен на адвоката и несколько стандартных тестов, но всё же показала склонность к [[Галлюцинация (искусственный интеллект)|галлюцинациям]] в ответах<ref name="nyt-4">{{Cite news|author=Metz|first=Cade|date=2023-03-14|title=10 Ways GPT-4 Is Impressive but Still Flawed|lang=en-US|website=The New York Times|url=https://www.nytimes.com/2023/03/14/technology/openai-new-gpt4.html|accessdate=2023-03-14|archiveurl=https://archive.is/fL9jH|archivedate=2023-03-14|issn=}}</ref>.
[[OpenAI]] написала в своем блоге, объявляя о GPT-4, что «GPT-4 более надёжен, креативен и способен обрабатывать гораздо более сложные инструкции, чем GPT-3.5»<ref name=":0"/>. Она может читать, анализировать или генерировать до 25 000 слов текста, что является значительным улучшением по сравнению с предыдущими версиями технологии<ref name="product-page" /><ref>{{cite AV media|title=GPT-4 Developer Livestream|date=2023-03-14|type=Videotape|publisher=OpenAI|via=YouTube|url=https://www.youtube.com/watch?v=outcGtbnMuQ&ab_channel=OpenAI|access-date=2023-03-14|language=en|archive-date=2023-03-14|archive-url=https://web.archive.org/web/20230314172139/https://www.youtube.com/watch?v=outcGtbnMuQ&ab_channel=OpenAI|url-status=live}}</ref>. ''The New York Times'' писала, что GPT-4 продемонстрировал впечатляющие улучшения в точности по сравнению с GPT-3.5, получила возможность обобщать и комментировать изображения, смогла обобщать сложные тексты, прошла экзамен на адвоката и несколько стандартных тестов, но всё же показала склонность к [[Галлюцинация (искусственный интеллект)|галлюцинациям]] в ответах<ref name="nyt-4">{{Cite news|author=Metz|first=Cade|date=2023-03-14|title=10 Ways GPT-4 Is Impressive but Still Flawed|lang=en-US|website=The New York Times|url=https://www.nytimes.com/2023/03/14/technology/openai-new-gpt4.html|accessdate=2023-03-14|archiveurl=https://archive.today/20230314170804/https://www.nytimes.com/2023/03/14/technology/openai-new-gpt4.html|archivedate=2023-03-14|issn=}}</ref>.


22 марта 2023 года [[Маск, Илон|Илон Маск]] вместе с более чем 1000 экспертов в области [[Искусственный интеллект|искусственного интеллекта]] опубликовал письмо с требованием ввести мораторий на обучение систем [[GPT-5|более мощных]], чем GPT-4, так как неконтролируемый процесс в этой области, по мнению Маска и согласных с ним экспертов, может представлять угрозу для человечества<ref>{{Cite web|lang=en-US|url=https://futureoflife.org/open-letter/pause-giant-ai-experiments/|title=Pause Giant AI Experiments: An Open Letter|website=Future of Life Institute|access-date=2023-04-01}}</ref><ref>{{Cite web|lang=ru|url=https://www.ixbt.com/news/2023/03/29/ilon-mask-stiv-voznjak-i-eshe-tysjacha-jekspertov-v-oblasti-ii-prizvali-kak-minimum-na-polgoda-ostanovit-obuchenie-ii.html|title=Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных|website=iXBT.com|access-date=2023-04-01}}</ref><ref>{{Cite web|lang=ru|url=https://meduza.io/news/2023/03/29/ilon-mask-stiv-voznyak-i-bolshe-tysyachi-ekspertov-prizvali-priostanovit-razrabotku-prodvinutogo-iskusstvennogo-intellekta|title=Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта|website=Meduza|access-date=2023-04-01}}</ref>.
22 марта 2023 года [[Маск, Илон|Илон Маск]] вместе с более чем 1000 экспертов в области [[Искусственный интеллект|искусственного интеллекта]] опубликовал письмо с требованием ввести мораторий на обучение систем более мощных, чем GPT-4, так как неконтролируемый процесс в этой области, по мнению Маска и согласных с ним экспертов, может представлять угрозу для человечества<ref>{{Cite web|lang=en-US|url=https://futureoflife.org/open-letter/pause-giant-ai-experiments/|title=Pause Giant AI Experiments: An Open Letter|website=Future of Life Institute|access-date=2023-04-01|archive-date=2023-03-30|archive-url=https://web.archive.org/web/20230330151034/https://futureoflife.org/open-letter/pause-giant-ai-experiments/|deadlink=no}}</ref><ref>{{Cite web|lang=ru|url=https://www.ixbt.com/news/2023/03/29/ilon-mask-stiv-voznjak-i-eshe-tysjacha-jekspertov-v-oblasti-ii-prizvali-kak-minimum-na-polgoda-ostanovit-obuchenie-ii.html|title=Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных|website=iXBT.com|access-date=2023-04-01|archive-date=2023-03-31|archive-url=https://web.archive.org/web/20230331223308/https://www.ixbt.com/news/2023/03/29/ilon-mask-stiv-voznjak-i-eshe-tysjacha-jekspertov-v-oblasti-ii-prizvali-kak-minimum-na-polgoda-ostanovit-obuchenie-ii.html|deadlink=no}}</ref><ref>{{Cite web|lang=ru|url=https://meduza.io/news/2023/03/29/ilon-mask-stiv-voznyak-i-bolshe-tysyachi-ekspertov-prizvali-priostanovit-razrabotku-prodvinutogo-iskusstvennogo-intellekta|title=Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта|website=Meduza|access-date=2023-04-01|archive-date=2023-04-01|archive-url=https://web.archive.org/web/20230401210204/https://meduza.io/news/2023/03/29/ilon-mask-stiv-voznyak-i-bolshe-tysyachi-ekspertov-prizvali-priostanovit-razrabotku-prodvinutogo-iskusstvennogo-intellekta|deadlink=no}}</ref>.

13 мая 2024 года OpenAI представила новую версию модели — GPT-4o. Буква «O» обозначает слово «omni» — всесторонний. По своим возможностям система соответствует GPT-4 Turbo, однако лучше работает с изображениями и аудио<ref>{{Cite web|url=https://www.rbc.ru/technology_and_media/14/05/2024/6642e2a09a79478b881e652c|title=OpenAI представила новую версию нейросети GPT-4o|publisher=[[РБК]]|date=2024-05-14|access-date=2024-05-15|archive-date=2024-05-17|archive-url=https://web.archive.org/web/20240517215520/https://www.rbc.ru/technology_and_media/14/05/2024/6642e2a09a79478b881e652c|url-status=live}}</ref>.


== Примечания ==
== Примечания ==
Строка 49: Строка 53:
| last = Kang
| last = Kang
| work = The New York Times
| work = The New York Times
| date = March 3, 2023
| date = 2023-03-03
| access-date = March 3, 2023
| archive-date = 2023-03-03
| archive-date = March 3, 2023
| archive-url = https://web.archive.org/web/20230303100624/https://www.nytimes.com/2023/03/03/technology/artificial-intelligence-regulation-congress.html
| archive-url = https://web.archive.org/web/20230303100624/https://www.nytimes.com/2023/03/03/technology/artificial-intelligence-regulation-congress.html
| url-status = live
| url-status = live
| access-date = 2023-03-15
}}</ref>
}}</ref>
<ref name="verge">{{Cite web
<ref name="verge">{{Cite web
Строка 60: Строка 64:
| first = James
| first = James
| last = Vincent
| last = Vincent
| date = January 18, 2023
| date = 2023-01-18
| website = The Verge
| website = The Verge
| access-date = January 27, 2023
| access-date = 2023-01-27
| archive-date = January 26, 2023
| archive-date = 2023-01-26
| archive-url = https://web.archive.org/web/20230126232257/https://www.theverge.com/23560328/openai-gpt-4-rumor-release-date-sam-altman-interview
| archive-url = https://web.archive.org/web/20230126232257/https://www.theverge.com/23560328/openai-gpt-4-rumor-release-date-sam-altman-interview
| url-status = live
| url-status = live
}}</ref>
}}</ref>
<ref name="product-page">{{Cite web
<ref name="product-page">{{Cite web
|date=March 14, 2023
|date=2023-03-14
|title=GPT-4
|title=GPT-4
|url=https://openai.com/product/gpt-4
|url=https://openai.com/product/gpt-4
|url-status=live
|url-status=live
|access-date=March 14, 2023
|access-date=2023-03-14
|website=[[OpenAI]]
|website=[[OpenAI]]
|archive-date=March 14, 2023
|archive-date=2023-03-14
|archive-url=https://web.archive.org/web/20230314165712/https://openai.com/product/gpt-4
|archive-url=https://web.archive.org/web/20230314165712/https://openai.com/product/gpt-4
}}</ref>
}}</ref>
Строка 80: Строка 84:
}}
}}


{{внешние ссылки}}
{{Обработка естественного языка}}
{{Обработка естественного языка}}
{{Искусственный интеллект}}
{{Искусственный интеллект}}
{{Машинное обучение}}
{{Машинное обучение}}
{{Генеративный ИИ}}


[[Категория:Виртуальные собеседники]]
[[Категория:Виртуальные собеседники]]
Строка 90: Строка 96:
[[Категория:Глубокое обучение]]
[[Категория:Глубокое обучение]]
[[Категория:Обработка естественного языка]]
[[Категория:Обработка естественного языка]]
[[Категория:Появились в 2023 году в США]]
[[Категория:OpenAI]]

Текущая версия от 23:32, 27 декабря 2024

Generative Pre-trained Transformer 4 (GPT-4)
Тип Большая языковая модель и artificial intelligence model
Разработчик OpenAI
Написана на Python
Языки интерфейса многоязычный, в том числе русский
Первый выпуск 14 марта 2023 года
Последняя версия (14 марта 2023)
Состояние активное
Лицензия Проприетарная
Сайт openai.com/product/gpt-4

GPT-4 (Generative Pre-trained Transformer 4) — мультимодальная большая языковая модель, созданная OpenAI, четвёртая в серии GPT. Она была выпущена 14 марта 2023 года и доступна для пользователей ChatGPT Plus[1]. Microsoft подтвердила, что версии Bing, использующие GPT, на самом деле использовали GPT-4 до его официального выпуска[2]. В качестве трансформера GPT-4 была предварительно обучена прогнозировать следующий токен (используя как общедоступные данные, так и «данные, лицензированные сторонними поставщиками»), а затем была доработана с помощью обучения с подкреплением на основе отзывов людей[3].

В техническом отчёте GPT-4 явно воздерживались от указания размера модели, ссылаясь на «конкурентную среду и последствия для безопасности крупномасштабных моделей»[3]. The Verge процитировала слухи о том, что GPT-4 существенно увеличит количество параметров со 175 миллиардов в GPT-3 до 100 триллионов, что генеральный директор OpenAI Сэм Олтмен назвал «полной чушью»[4]. Поздние слухи говорят, что GPT-4 имеет 1,76 триллиона параметров, исходя из скорости её работы и по оценке Джорджа Хотца.[5] Представители США Дон Бейер[англ.] и Тед Лью[англ.] подтвердили New York Times, что Олтмен посетил Конгресс в январе 2023 года, чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ[6].

OpenAI написала в своем блоге, объявляя о GPT-4, что «GPT-4 более надёжен, креативен и способен обрабатывать гораздо более сложные инструкции, чем GPT-3.5»[1]. Она может читать, анализировать или генерировать до 25 000 слов текста, что является значительным улучшением по сравнению с предыдущими версиями технологии[7][8]. The New York Times писала, что GPT-4 продемонстрировал впечатляющие улучшения в точности по сравнению с GPT-3.5, получила возможность обобщать и комментировать изображения, смогла обобщать сложные тексты, прошла экзамен на адвоката и несколько стандартных тестов, но всё же показала склонность к галлюцинациям в ответах[9].

22 марта 2023 года Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта опубликовал письмо с требованием ввести мораторий на обучение систем более мощных, чем GPT-4, так как неконтролируемый процесс в этой области, по мнению Маска и согласных с ним экспертов, может представлять угрозу для человечества[10][11][12].

13 мая 2024 года OpenAI представила новую версию модели — GPT-4o. Буква «O» обозначает слово «omni» — всесторонний. По своим возможностям система соответствует GPT-4 Turbo, однако лучше работает с изображениями и аудио[13].

Примечания

[править | править код]
  1. 1 2 GPT-4. openai.com (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
  2. Microsoft’s new Bing was using GPT-4 all along. techcrunch.com (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 15 марта 2023 года.
  3. 1 2 GPT-4 Technical Report. OpenAI (2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
  4. Vincent, James OpenAI CEO Sam Altman on GPT-4: "people are begging to be disappointed and they will be". The Verge (18 января 2023). Дата обращения: 27 января 2023. Архивировано 26 января 2023 года.
  5. Schreiner, Maximilian GPT-4 architecture, datasets, costs and more leaked (амер. англ.). THE DECODER (11 июля 2023). Дата обращения: 26 июля 2024. Архивировано 12 июля 2023 года.
  6. Kang, Cecilia (2023-03-03). "As A.I. Booms, Lawmakers Struggle to Understand the Technology". The New York Times. Архивировано 3 марта 2023. Дата обращения: 15 марта 2023.
  7. GPT-4. OpenAI (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
  8. GPT-4 Developer Livestream (Videotape) (англ.). OpenAI. 2023-03-14. Архивировано 14 марта 2023. Дата обращения: 14 марта 2023 — YouTube.
  9. Metz, Cade (2023-03-14). "10 Ways GPT-4 Is Impressive but Still Flawed". The New York Times (англ.). Архивировано 14 марта 2023. Дата обращения: 14 марта 2023.
  10. Pause Giant AI Experiments: An Open Letter (амер. англ.). Future of Life Institute. Дата обращения: 1 апреля 2023. Архивировано 30 марта 2023 года.
  11. Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных. iXBT.com. Дата обращения: 1 апреля 2023. Архивировано 31 марта 2023 года.
  12. Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта. Meduza. Дата обращения: 1 апреля 2023. Архивировано 1 апреля 2023 года.
  13. OpenAI представила новую версию нейросети GPT-4o. РБК (14 мая 2024). Дата обращения: 15 мая 2024. Архивировано 17 мая 2024 года.