GPT-4: различия между версиями
[отпатрулированная версия] | [отпатрулированная версия] |
Oleg4280 (обсуждение | вклад) iw |
Zboris (обсуждение | вклад) |
||
(не показаны 32 промежуточные версии 22 участников) | |||
Строка 30: | Строка 30: | ||
| альфа-версия = |
| альфа-версия = |
||
| дата альфа-версии = |
| дата альфа-версии = |
||
| предыдущая = [[GPT-3]] |
|||
| следующая = [[GPT-5]] |
|||
| nocat = |
| nocat = |
||
| викисклад = |
| викисклад = |
||
}} |
}} |
||
'''GPT-4''' ('''Generative Pre-trained Transformer 4''') — |
'''GPT-4''' ('''Generative Pre-trained Transformer 4''') — [[Мультимодальное обучение|мультимодальная]] [[большая языковая модель]], созданная [[OpenAI]], четвёртая в серии [[Generative pre-trained transformer|GPT]]. Она была выпущена 14 марта 2023 года и доступна для пользователей [[ChatGPT]] Plus<ref name=":0">{{Cite web|url=https://openai.com/research/gpt-4|title=GPT-4|website=openai.com|date=2023-03-14|archive-url=https://web.archive.org/web/20230314174531/https://openai.com/research/gpt-4|archive-date=2023-03-14|access-date=2023-03-14|url-status=live}}</ref>. [[Microsoft]] подтвердила, что версии [[Bing]], использующие GPT, на самом деле использовали GPT-4 до его официального выпуска<ref>{{Cite web|url=https://techcrunch.com/2023/03/14/microsofts-new-bing-was-using-gpt-4-all-along/|title=Microsoft’s new Bing was using GPT-4 all along|website=techcrunch.com|date=2023-03-14|archive-url=https://web.archive.org/web/20230315013650/https://techcrunch.com/2023/03/14/microsofts-new-bing-was-using-gpt-4-all-along/|archive-date=2023-03-15|access-date=2023-03-14|url-status=live}}</ref>. В качестве [[Трансформер (модель машинного обучения)|трансформера]] GPT-4 была предварительно обучена прогнозировать следующий токен (используя как общедоступные данные, так и «данные, лицензированные сторонними поставщиками»), а затем была доработана с помощью [[Обучение с подкреплением на основе отзывов людей|обучения с подкреплением на основе отзывов людей]]<ref name="GPT4Tech" />. |
||
В техническом отчёте GPT-4 явно воздерживались от указания размера модели, ссылаясь на «конкурентную среду и последствия для безопасности крупномасштабных моделей»<ref name="GPT4Tech" />. ''[[The Verge]]'' процитировала слухи о том, что GPT-4 существенно увеличит количество параметров со 175 миллиардов в [[GPT-3]] до 100 триллионов, что генеральный директор OpenAI [[Олтмен, Сэм|Сэм Олтмен]] назвал «полной чушью»<ref name="verge" />. Представители США {{iw|Бейер, Дон|Дон Бейер|en|Don Beyer}} и {{iw|Лью, Тед|Тед Лью|en|Ted Lieu}} подтвердили [[The New York Times|New York Times]], что Олтмен посетил [[Конгресс США|Конгресс]] в январе 2023 |
В техническом отчёте GPT-4 явно воздерживались от указания размера модели, ссылаясь на «конкурентную среду и последствия для безопасности крупномасштабных моделей»<ref name="GPT4Tech" />. ''[[The Verge]]'' процитировала слухи о том, что GPT-4 существенно увеличит количество параметров со 175 миллиардов в [[GPT-3]] до 100 триллионов, что генеральный директор OpenAI [[Олтмен, Сэм|Сэм Олтмен]] назвал «полной чушью»<ref name="verge" />. Поздние слухи говорят, что GPT-4 имеет 1,76 триллиона параметров, исходя из скорости её работы и по оценке [[Хоц, Джордж Френсис|Джорджа Хотца]].<ref>{{Cite web|url=https://the-decoder.com/gpt-4-architecture-datasets-costs-and-more-leaked/|title=GPT-4 architecture, datasets, costs and more leaked|lang=en-US|first=Maximilian|last=Schreiner|website=THE DECODER|date=2023-07-11|access-date=2024-07-26|archive-date=2023-07-12|archive-url=https://web.archive.org/web/20230712123915/https://the-decoder.com/gpt-4-architecture-datasets-costs-and-more-leaked/|url-status=live}}</ref> Представители США {{iw|Бейер, Дон|Дон Бейер|en|Don Beyer}} и {{iw|Лью, Тед|Тед Лью|en|Ted Lieu}} подтвердили ''[[The New York Times|New York Times]]'', что Олтмен посетил [[Конгресс США|Конгресс]] в январе 2023 года, чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ<ref name="nyt-3" />. |
||
[[OpenAI]] |
[[OpenAI]] написала в своем блоге, объявляя о GPT-4, что «GPT-4 более надёжен, креативен и способен обрабатывать гораздо более сложные инструкции, чем GPT-3.5»<ref name=":0"/>. Она может читать, анализировать или генерировать до 25 000 слов текста, что является значительным улучшением по сравнению с предыдущими версиями технологии<ref name="product-page" /><ref>{{cite AV media|title=GPT-4 Developer Livestream|date=2023-03-14|type=Videotape|publisher=OpenAI|via=YouTube|url=https://www.youtube.com/watch?v=outcGtbnMuQ&ab_channel=OpenAI|access-date=2023-03-14|language=en|archive-date=2023-03-14|archive-url=https://web.archive.org/web/20230314172139/https://www.youtube.com/watch?v=outcGtbnMuQ&ab_channel=OpenAI|url-status=live}}</ref>. ''The New York Times'' писала, что GPT-4 продемонстрировал впечатляющие улучшения в точности по сравнению с GPT-3.5, получила возможность обобщать и комментировать изображения, смогла обобщать сложные тексты, прошла экзамен на адвоката и несколько стандартных тестов, но всё же показала склонность к [[Галлюцинация (искусственный интеллект)|галлюцинациям]] в ответах<ref name="nyt-4">{{Cite news|author=Metz|first=Cade|date=2023-03-14|title=10 Ways GPT-4 Is Impressive but Still Flawed|lang=en-US|website=The New York Times|url=https://www.nytimes.com/2023/03/14/technology/openai-new-gpt4.html|accessdate=2023-03-14|archiveurl=https://archive.today/20230314170804/https://www.nytimes.com/2023/03/14/technology/openai-new-gpt4.html|archivedate=2023-03-14|issn=}}</ref>. |
||
22 марта 2023 |
22 марта 2023 года [[Маск, Илон|Илон Маск]] вместе с более чем 1000 экспертов в области [[Искусственный интеллект|искусственного интеллекта]] опубликовал письмо с требованием ввести мораторий на обучение систем более мощных, чем GPT-4, так как неконтролируемый процесс в этой области, по мнению Маска и согласных с ним экспертов, может представлять угрозу для человечества<ref>{{Cite web|lang=en-US|url=https://futureoflife.org/open-letter/pause-giant-ai-experiments/|title=Pause Giant AI Experiments: An Open Letter|website=Future of Life Institute|access-date=2023-04-01|archive-date=2023-03-30|archive-url=https://web.archive.org/web/20230330151034/https://futureoflife.org/open-letter/pause-giant-ai-experiments/|deadlink=no}}</ref><ref>{{Cite web|lang=ru|url=https://www.ixbt.com/news/2023/03/29/ilon-mask-stiv-voznjak-i-eshe-tysjacha-jekspertov-v-oblasti-ii-prizvali-kak-minimum-na-polgoda-ostanovit-obuchenie-ii.html|title=Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных|website=iXBT.com|access-date=2023-04-01|archive-date=2023-03-31|archive-url=https://web.archive.org/web/20230331223308/https://www.ixbt.com/news/2023/03/29/ilon-mask-stiv-voznjak-i-eshe-tysjacha-jekspertov-v-oblasti-ii-prizvali-kak-minimum-na-polgoda-ostanovit-obuchenie-ii.html|deadlink=no}}</ref><ref>{{Cite web|lang=ru|url=https://meduza.io/news/2023/03/29/ilon-mask-stiv-voznyak-i-bolshe-tysyachi-ekspertov-prizvali-priostanovit-razrabotku-prodvinutogo-iskusstvennogo-intellekta|title=Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта|website=Meduza|access-date=2023-04-01|archive-date=2023-04-01|archive-url=https://web.archive.org/web/20230401210204/https://meduza.io/news/2023/03/29/ilon-mask-stiv-voznyak-i-bolshe-tysyachi-ekspertov-prizvali-priostanovit-razrabotku-prodvinutogo-iskusstvennogo-intellekta|deadlink=no}}</ref>. |
||
13 мая 2024 года OpenAI представила новую версию модели — GPT-4o. Буква «O» обозначает слово «omni» — всесторонний. По своим возможностям система соответствует GPT-4 Turbo, однако лучше работает с изображениями и аудио<ref>{{Cite web|url=https://www.rbc.ru/technology_and_media/14/05/2024/6642e2a09a79478b881e652c|title=OpenAI представила новую версию нейросети GPT-4o|publisher=[[РБК]]|date=2024-05-14|access-date=2024-05-15|archive-date=2024-05-17|archive-url=https://web.archive.org/web/20240517215520/https://www.rbc.ru/technology_and_media/14/05/2024/6642e2a09a79478b881e652c|url-status=live}}</ref>. |
|||
== Примечания == |
== Примечания == |
||
Строка 49: | Строка 53: | ||
| last = Kang |
| last = Kang |
||
| work = The New York Times |
| work = The New York Times |
||
| date = |
| date = 2023-03-03 |
||
| |
| archive-date = 2023-03-03 |
||
⚫ | |||
| archive-url = https://web.archive.org/web/20230303100624/https://www.nytimes.com/2023/03/03/technology/artificial-intelligence-regulation-congress.html |
| archive-url = https://web.archive.org/web/20230303100624/https://www.nytimes.com/2023/03/03/technology/artificial-intelligence-regulation-congress.html |
||
| url-status = live |
| url-status = live |
||
⚫ | |||
}}</ref> |
}}</ref> |
||
<ref name="verge">{{Cite web |
<ref name="verge">{{Cite web |
||
Строка 60: | Строка 64: | ||
| first = James |
| first = James |
||
| last = Vincent |
| last = Vincent |
||
| date = |
| date = 2023-01-18 |
||
| website = The Verge |
| website = The Verge |
||
| access-date = |
| access-date = 2023-01-27 |
||
| archive-date = |
| archive-date = 2023-01-26 |
||
| archive-url = https://web.archive.org/web/20230126232257/https://www.theverge.com/23560328/openai-gpt-4-rumor-release-date-sam-altman-interview |
| archive-url = https://web.archive.org/web/20230126232257/https://www.theverge.com/23560328/openai-gpt-4-rumor-release-date-sam-altman-interview |
||
| url-status = live |
| url-status = live |
||
}}</ref> |
}}</ref> |
||
<ref name="product-page">{{Cite web |
<ref name="product-page">{{Cite web |
||
|date= |
|date=2023-03-14 |
||
|title=GPT-4 |
|title=GPT-4 |
||
|url=https://openai.com/product/gpt-4 |
|url=https://openai.com/product/gpt-4 |
||
|url-status=live |
|url-status=live |
||
|access-date= |
|access-date=2023-03-14 |
||
|website=[[OpenAI]] |
|website=[[OpenAI]] |
||
|archive-date= |
|archive-date=2023-03-14 |
||
|archive-url=https://web.archive.org/web/20230314165712/https://openai.com/product/gpt-4 |
|archive-url=https://web.archive.org/web/20230314165712/https://openai.com/product/gpt-4 |
||
}}</ref> |
}}</ref> |
||
Строка 80: | Строка 84: | ||
}} |
}} |
||
{{внешние ссылки}} |
|||
{{Обработка естественного языка}} |
{{Обработка естественного языка}} |
||
{{Искусственный интеллект}} |
{{Искусственный интеллект}} |
||
{{Машинное обучение}} |
{{Машинное обучение}} |
||
{{Генеративный ИИ}} |
|||
[[Категория:Виртуальные собеседники]] |
[[Категория:Виртуальные собеседники]] |
||
Строка 90: | Строка 96: | ||
[[Категория:Глубокое обучение]] |
[[Категория:Глубокое обучение]] |
||
[[Категория:Обработка естественного языка]] |
[[Категория:Обработка естественного языка]] |
||
[[Категория:Появились в 2023 году в США]] |
|||
[[Категория:OpenAI]] |
Текущая версия от 23:32, 27 декабря 2024
Generative Pre-trained Transformer 4 (GPT-4) | |
---|---|
Тип | Большая языковая модель и artificial intelligence model |
Разработчик | OpenAI |
Написана на | Python |
Языки интерфейса | многоязычный, в том числе русский |
Первый выпуск | 14 марта 2023 года |
Последняя версия | (14 марта 2023) |
Состояние | активное |
Лицензия | Проприетарная |
Сайт | openai.com/product/gpt-4 |
GPT-4 (Generative Pre-trained Transformer 4) — мультимодальная большая языковая модель, созданная OpenAI, четвёртая в серии GPT. Она была выпущена 14 марта 2023 года и доступна для пользователей ChatGPT Plus[1]. Microsoft подтвердила, что версии Bing, использующие GPT, на самом деле использовали GPT-4 до его официального выпуска[2]. В качестве трансформера GPT-4 была предварительно обучена прогнозировать следующий токен (используя как общедоступные данные, так и «данные, лицензированные сторонними поставщиками»), а затем была доработана с помощью обучения с подкреплением на основе отзывов людей[3].
В техническом отчёте GPT-4 явно воздерживались от указания размера модели, ссылаясь на «конкурентную среду и последствия для безопасности крупномасштабных моделей»[3]. The Verge процитировала слухи о том, что GPT-4 существенно увеличит количество параметров со 175 миллиардов в GPT-3 до 100 триллионов, что генеральный директор OpenAI Сэм Олтмен назвал «полной чушью»[4]. Поздние слухи говорят, что GPT-4 имеет 1,76 триллиона параметров, исходя из скорости её работы и по оценке Джорджа Хотца.[5] Представители США Дон Бейер[англ.] и Тед Лью[англ.] подтвердили New York Times, что Олтмен посетил Конгресс в январе 2023 года, чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ[6].
OpenAI написала в своем блоге, объявляя о GPT-4, что «GPT-4 более надёжен, креативен и способен обрабатывать гораздо более сложные инструкции, чем GPT-3.5»[1]. Она может читать, анализировать или генерировать до 25 000 слов текста, что является значительным улучшением по сравнению с предыдущими версиями технологии[7][8]. The New York Times писала, что GPT-4 продемонстрировал впечатляющие улучшения в точности по сравнению с GPT-3.5, получила возможность обобщать и комментировать изображения, смогла обобщать сложные тексты, прошла экзамен на адвоката и несколько стандартных тестов, но всё же показала склонность к галлюцинациям в ответах[9].
22 марта 2023 года Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта опубликовал письмо с требованием ввести мораторий на обучение систем более мощных, чем GPT-4, так как неконтролируемый процесс в этой области, по мнению Маска и согласных с ним экспертов, может представлять угрозу для человечества[10][11][12].
13 мая 2024 года OpenAI представила новую версию модели — GPT-4o. Буква «O» обозначает слово «omni» — всесторонний. По своим возможностям система соответствует GPT-4 Turbo, однако лучше работает с изображениями и аудио[13].
Примечания
[править | править код]- ↑ 1 2 GPT-4 . openai.com (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
- ↑ Microsoft’s new Bing was using GPT-4 all along . techcrunch.com (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 15 марта 2023 года.
- ↑ 1 2 GPT-4 Technical Report . OpenAI (2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
- ↑ Vincent, James OpenAI CEO Sam Altman on GPT-4: "people are begging to be disappointed and they will be" . The Verge (18 января 2023). Дата обращения: 27 января 2023. Архивировано 26 января 2023 года.
- ↑ Schreiner, Maximilian GPT-4 architecture, datasets, costs and more leaked (амер. англ.). THE DECODER (11 июля 2023). Дата обращения: 26 июля 2024. Архивировано 12 июля 2023 года.
- ↑ Kang, Cecilia (2023-03-03). "As A.I. Booms, Lawmakers Struggle to Understand the Technology". The New York Times. Архивировано 3 марта 2023. Дата обращения: 15 марта 2023.
- ↑ GPT-4 . OpenAI (14 марта 2023). Дата обращения: 14 марта 2023. Архивировано 14 марта 2023 года.
- ↑ GPT-4 Developer Livestream (Videotape) (англ.). OpenAI. 2023-03-14. Архивировано 14 марта 2023. Дата обращения: 14 марта 2023 — YouTube.
- ↑ Metz, Cade (2023-03-14). "10 Ways GPT-4 Is Impressive but Still Flawed". The New York Times (англ.). Архивировано 14 марта 2023. Дата обращения: 14 марта 2023.
- ↑ Pause Giant AI Experiments: An Open Letter (амер. англ.). Future of Life Institute. Дата обращения: 1 апреля 2023. Архивировано 30 марта 2023 года.
- ↑ Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных . iXBT.com. Дата обращения: 1 апреля 2023. Архивировано 31 марта 2023 года.
- ↑ Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта . Meduza. Дата обращения: 1 апреля 2023. Архивировано 1 апреля 2023 года.
- ↑ OpenAI представила новую версию нейросети GPT-4o . РБК (14 мая 2024). Дата обращения: 15 мая 2024. Архивировано 17 мая 2024 года.