元峰AI笔记 · AI大模型

GPT-4 Turbo:12 项牛逼的新功能(附案例)

11月7日,堪称 AI 界的春晚 OpenAI开发者大会大家都看了吗?其中演示了很多革命性的功能。这不,才上线不到一天,优秀的网友们已经开始用这些新功能做出了一堆酷炫的东西!

GPT-4 Turbo:12 项牛逼的新功能(附案例)

这张图片呈现的是OpenAI开发者大会的现场画面,一名男士站在舞台左侧,舞台背景板上展示了GPT-4 Turbo的多项新功能,包括Copyright Shield、Threading、Retrieval、Code Interpreter、Function-calling,还有对应功能的演示示意界面,同时标注了“GPTs”“Lower Pricing”字样,背景还搭配了微软等相关标识及功能演示弹窗,直观呈现了大会上推出的智能新功能,和文中提及的OpenAI开发者大会上展示革命性新功能的内容相契合。

11月7日,堪称 AI 界的春晚 -- OpenAI开发者大会大家都看了吗?其中演示了很多革命性的功能。这不,才上线不到一天,优秀的网友们已经开始用这些新功能做出了一堆酷炫的东西!

要我说,这就像是一场全球的智能创意派对。你能看到人们是如何把一个简单的想法变成现实的,而这一切都离不开 ChatGPT 的新能力。

本文将结合大会现场所讲的一些功能展示一些案例,每一个都足以让你大开眼界。 我保证,它们会让你有种 “哇,竟然还能这么玩” 的快感。

回顾 ChatGPT 发展历程

  • ChatGPT首次问世:约一年前,ChatGPT 作为一个不起眼的研究项目首次推出,立即获得了良好的反响。
  • GPT-4的问世:在 2023 年 3 月,我们推出了功能强大的 GPT-4 模型,它是目前市面上最强的模型。
  • 感知能力的拓展:在过去的几个月里,ChatGPT 增加了对视觉和听觉信息的感知、理解和解释能力。
  • DALL-E 3 的推出:世界上最先进的图像模型 DALL-E 3 近期推出,并已经可以在 ChatGPT 中使用。
  • ChatGPT 企业版的推出:ChatGPT 企业版为商业用户带来了企业级安全性和隐私保护、更快的 GPT-4 访问速度以及更长的对话上下文窗口。

数据和事实:现在,大约有 200 万开发者正在使用 API 开发各种应用程序,超过 92% 的财富 500 强公司正在平台上进行开发。ChatGPT 目前每周有大约1亿的活跃用户,用户群主要通过口碑效应增长,因为人们发现它很有用并愿意分享给他人。

GPT-4 Turbo 的 12 项新功能

GPT-4 Turbo 定价

OpenAI 带来了激动人心的消息:尽管全新的 GPT-4 Turbo 模型不仅性能大幅领先,但现在使用成本大大降低。

输入 Token 的费用减少为原来的三分之一,输出 Token 的费用减少为原来的一半。

这张图片是OpenAI官网的定价页面截图,清晰对比了GPT-4 Turbo与GPT-4的Token费用差异。其中用红色箭头标注出了GPT-4 Turbo模型(标识为gpt-4-1106-preview)的费用:每千输入Token为0.01美元,每千输出Token为0.03美元;同时也标注了GPT-4基础模型的费用:每千输入Token为0.03美元,每千输出Token为0.06美元,直观展现了GPT-4 Turbo的价格优势,和文档中提到的GPT-4 Turbo成本降低、定价更优惠的内容相呼应。

https://openai.com/pricing

因此,从今天开始,GPT-4 Turbo 的定价为:每千个输入 Token 只需 0.01 美元,每千个输出 Token 只需 0.03 美元:

图片展示了GPT-4 Turbo的定价信息。上方显示“GPT-4 Turbo”,下方左侧标注“1¢ 1,000 input tokens”,右侧标注“3¢ 1,000 output tokens”。画面中一位男士站在讲台旁,背景为黑色。该图片与文档中介绍GPT-4 Turbo定价的内容相关,直观呈现了每千个输入Token和输出Token的费用,即每千个输入Token只需0.01美元,每千个输出Token只需0.03美元,与上下文对GPT-4 Turbo定价的说明相呼应。

这意味着现在就可以停止 GPT-4,立即升级至 GPT-4 Turbo,不仅能以更低的价格享受到更优质的服务,而且没有任何隐藏费用。

图片展示的是GPT-4 Turbo的演示界面。左侧为系统操作栏,有“# Round 2”等多轮次的“Draft”“Reflection”等选项。中间是助手区域,显示GPT-4 Turbo的相关信息,如发布日期、更新能力等。右侧是模型设置区域,可选择模型、温度、最大长度等参数。底部有“Cancel”“Add message”“Enter”按钮。该图片与上下文关系紧密,直观呈现了GPT-4 Turbo在平台上的操作界面及部分功能设置情况。

下面是 GPT-4 Turbo 的一段演示,响应速度非常快。

增加上下文长度

GPT-4 Turbo 现在支持高达 128k 个 Token 的上下文长度,比之前的 8K Token 限制显著增加。这使用户能够更有效地处理大量文档和长上下文。甚至可以加载 300 页的标准书籍,比之前的 8k 上下文长 16 倍! 除了允许更长的上下文之外,该模型在更长的上下文中理解能力也更加准确!

YouTube 视频转录

ChatGPT 的新版上下文窗口实在是太厉害了。

它能完美处理整个 YouTube 视频(1小时20分钟)的字幕,能总结关键信息,也能在需要时进一步扩展讨论。

目前还没办法自创 GPTs。

下一个目标是结合文本到语音技术,用 YouTube 的字幕内容来做播客。

图片展示了一条关于ChatGPT新功能的推文。推文作者@rileybrown_ai表示,ChatGPT的新上下文窗口非常棒,能吞噬整段YouTube转录并总结,还能在需要时扩展。下方配有视频截图,显示一位男士在视频中讲解,下方有“LEADERSHIP LAB: The Craft of Writing Effectively”的字样,以及“14K”“Subscribe”等按钮。该图片与上下文紧密相关,上下文提到使用GPT-4 Turbo的128k上下文长度和ChatGPT内置代码解释器实操论文内容,此图展示了其新功能的应用示例。

识别论文

是时候使用 gpt-4-turbo 的 128k 上下文长度和 ChatGPT 内置的代码解释器来实操一些论文内容了!

图片展示了一条Twitter动态,用户@amankishore表示是时候用GPT-4 Turbo的128k上下文长度和ChatGPT内置代码解释器来实操一些论文内容了。动态下方是ChatGPT对论文的总结,称其在语音识别领域有重大贡献,通过大规模监督预训练可使模型在各种语言和任务、嘈杂环境中表现良好。还对Whisper模型的编码器和解码器结构、GELU激活函数等进行了详细解释。该图片与上下文紧密相关,是对使用GPT-4 Turbo和ChatGPT实操论文内容的示例呈现。

GPT-4 微调:自定义模型和 GPTs

图片展示的是OpenAI CEO萨姆·奥特曼在台上演讲的场景。背景为黑色,大屏幕上显示“GPTs”字样。奥特曼身着深色毛衣,站在右侧,左手握着麦克风,右手自然下垂,似乎在介绍GPTs相关内容。此图与文档中介绍GPTs是ChatGPT的定制版本,可自定义并发布,还能用它赚钱,以及展示如何使用chat.openai.com/gpts/editor上的GPT构建器等内容相关,直观呈现了GPTs这一概念。

GPTs 是 ChatGPT 的定制版本。每个人都可以创建自己的 GPT 并将其发布给大家使用,还可以用它来赚钱。

这个想法是为了简化各种任务的执行。我们可以通过用自然语言与它们交流来引导 GPT,不需要任何编程!

图片展示了OpenAI在开发者大会中演示的多个版本GPTs小型智能体。每个智能体以GPT-4 Turbo为核心,配有图标和简短介绍。如Creative Writing Coach鼓励读写反馈提升技能,Laundry Buddy可询问洗衣相关问题,Game Time能快速解释桌游或纸牌游戏,Tech Advisor提供设备故障解决等。Sticker Whiz可将梦想变成贴纸,The Negotiator能帮助谈判。这些智能体以不同图标和功能呈现,体现了GPTs的多样性和实用性。

以下是如何使用 chat.openai.com/gpts/editor 上的 GPT 构建器:

图片展示了chat.openai.com/gpts/editor上的GPT构建器界面。左侧有“Create”和“Configure”按钮,下方提示可创建帮助生成新产品的视觉内容的创意人员或帮助格式化代码的软件工程师等。右侧是“Preview”区域,显示一个立方体图标。界面底部有输入框,上方提示“我想要帮助初创创始人思考他们的业务”。该图片与上下文紧密相关,直观呈现了上下文中提到的GPT构建器在浏览器中的样子,是GPTs在浏览器中展示的示例。

GPTs 在浏览器中的样子如下:

这张图片是OpenAI开发者大会的演示场景,画面左侧有一位女性演示者站在讲台前,正在操作笔记本电脑。舞台背景的大屏幕上展示了GPT相关界面,左侧是带会话输入区域的ChatGPT核心界面,中间显示着询问语“How can I help you today?”,右侧则是一个带有日程列表的界面,屏幕下方的中英文字幕明确标注了“您的GPT所在位置位于左上角”。图片对应文档中介绍GPT-4 Turbo新功能里有关GPTs的内容,直观呈现了GPTs在浏览器中的样式。

Canva 的 GPT 应用案例。

图片展示了Canva GPT在生成海报设计的界面。上方显示“Canva GPT”,并有“Action completed”提示。中间是两张海报设计选项,左侧为“Join Us at DevDay Reception!”,右侧为“DevDay Reception”设计,均配有相关图片。下方有“Message Canva GPT...”输入框。该图片与上下文紧密相关,是开发者大会中Sam Altman为开发人员演示的GPTs小型智能体之一,展示了GPTs在生成海报设计方面的应用。

图片展示了OpenAI在开发者大会中演示的多个版本GPTs小型智能体。画面中,一个人站在一堵墙前,墙上布满应用程序图标。墙上的每个图标旁都有对应的应用名称及简要介绍,如“Cosmic Dream宇宙之梦”是“富有远见的数字奇迹画家”,“Tech Support Advisor技术支持顾问”可从设置打印机到解决设备问题等,还有“Coloring Book Hero着色书英雄”“Laundry Buddy洗衣伙伴”等,均为由ChatGPT生成。这些智能体都是以GPT-4 Turbo为核心打造,展示了其在不同场景的应用。

事实上,开发者大会中在为开发人员演示时,Sam Altman 介绍了这张幻灯片,展现了多个版本的 GPTs 小型智能体,它们都是以 GPT-4 Turbo 为核心打造的。

图片展示了一面墙,上面布满了各种应用程序的图标。这些应用名称如Star Tracker、Golf Tracker、Meditation Guide等,涵盖了多种功能,如冥想指导、学习助手、徒步助手等。图片位于介绍GPT-4微调功能的上下文之后,直观呈现了OpenAI在幻灯片中展示的GPTs,即自定义模型和GPTs,帮助读者更清晰地了解这些应用名称。

我让 GPT-4 提取所有可读的应用名称,即 OpenAI 在这张简短幻灯片中展示的 GPTs:

图片展示了一张幻灯片,背景为黑色,墙面上布满许多应用程序的图标。画面中有一人站在墙前,墙上的图标对应着文档中列出的多个应用名称,如Star Tracker、Golf Tracker、Meditation Guide等。该图片与上文提到的“我让GPT-4提取所有可读的应用名称”相呼应,直观呈现了幻灯片上所有清晰的应用名称,帮助读者更清晰地了解这些应用。

图片显示了一个人站在一堵墙前,墙上布满了许多应用程序的图标。这些应用的名称包括:

  • Star Tracker
  • Golf Tracker
  • Meditation Guide
  • Study Buddy
  • Hiking Helper
  • In Style
  • Pun Generator
  • Code Checker
  • Pocket Somme
  • Racing League
  • 。。。
  • Travel Compani
  • CRITTERZ
  • Fantasy Football
  • In Style
  • Tree Houses
  • Math Mentor
  • Budget Buddy
  • Meditation Guide
  • Pixel Artist
  • all the jokes

请注意,这个列表只包括图片中清晰可见的应用程序名称。如果有些图标的名称不够清晰或被遮挡,它们可能不会被列出。

图片为Greg Isenberg发布的推文,内容涉及OpenAI推出ChatGPT应用商店。推文指出,Shopify应用有33,000款,营收5.61亿美元;苹果应用商店有1.8M款,营收9100亿美元;而ChatGPT应用商店目前0款应用,0美元收入。推文还提到未来可能有数百万代理产品,创造数十亿美元营收,并表达了对2009年为苹果应用商店和Shopify应用商店创建应用的遗憾,认为现在有大量为ChatGPT构建应用的机会。图片下方附有Shopify应用商店应用数量随年份变化的图表。

OpenAI 宣布推出 ChatGPT 应用商店,一个全新的 ChatGPT 专属应用平台。

回顾历史:

Shopify 应用:3.3 万款,营收达到 5.61 亿美元。

苹果应用商店:有 180 万款应用,营收高达 9100 亿美元。

而现在的 ChatGPT 应用商店:尚未有代理产品,收入为零。

但不难预见,未来可能会有数百万代理产品,创造数十亿美元的营收。

想当初,如果我在 2009 年苹果应用商店诞生之初就开发出自己的应用就好了。

我也希望那时候我为 Shopify 应用商店贡献过一款应用。

现在正是为 ChatGPT 开发应用的大好时机,这样的机会千万不能错失。

每隔 15 年才会出现一次这样颠覆性的机遇。

图片为“Shopify应用商店历年发布应用数量图”,横轴为年份,纵轴为发布应用数量。图中显示2010 - 2017年发布应用数量较少,2018 - 2022年数量显著增长,2023年为红点标识的1200多。该图与上下文提到的Shopify应用开发周期对比相关,直观呈现了Shopify应用商店发布应用数量随时间变化的趋势,强调了当前开发应用的机遇。

开发周期对比:

Shopify 应用要4个月,

Apple App Store 应用要6个月,

ChatGPT 商店智能代理只需16分钟(效率惊人!)

这意义非凡。

4 分钟内构建一个 GPT 并展示了它的工作原理

开发者大会现场,Sam Altman 登台演示,4 分钟不到,只凭几步操作做好一个“创业导师GPT”。

GPT 创建器

测试了 OpenAI 的新 GPT Builder: chat.openai.com/gpts/editor

创建了 “X Optimizer GPT”,它可以微调 X 帖子并确定高峰发帖时间,以实现 X 上的最大参与度。

这是一条由认证用户Rowan Cheung发布的推文,内容为其测试OpenAI的GPT创建器后,打造了名为“X Optimizer GPT”的自定义模型,该模型可优化X平台帖子并定位发帖高峰时段以提升互动度,用户称相关成果令人惊叹。推文还配有两张界面截图,左侧截图显示的是该自定义模型的相关设置页面,右侧截图则是对应模型运行产出内容的界面。

图片展示的是OpenAI新GPT Builder中“X Optimizer GPT”的配置界面。界面中显示该GPT的名称为“X Optimizer GPT”,描述为“成为一个有用的机器人,通过优化X平台上的帖子来最大化互动”。下方有指令输入区域,可分析数据并生成帖子优化模型。还列出了可用的文件,包括多个“tweet_activity_matrix”文件。界面底部有“Web Browsing”“DALL-E Image Generation”等能力选项,以及“Add actions”“Additional settings”等操作按钮。该图与上下文介绍的“X Optimizer GPT”功能相关,直观呈现其配置情况。

那么他是如何做到这一点的呢?

  1. 从 Twitter 分析下载他所有 Twitter 帖子数据
  2. 配置自定义指令(图1)

X 优化器 GPT 描述 成为一个有用的机器人,通过优化 X 平台上的帖子来最大化互动。 指导说明 分析所提供的数据,并成为一个能在 X 平台上优化帖子的有用机器人。我随后会提供我帖子的草稿,你需要对其进行优化以最大化互动。同时,请提供我在太平洋标准时间最佳的发帖时间。在提出建议之前,请对任何帖子进行 10 分评价,然后提出方法将其提高到 10/10。避免在帖子中使用所有表情符号。使帖子强调简洁和自然,听起来不像机器人的复制文本。尽可能少做编辑。

  1. 粘贴到这篇文章的草稿中,并让 X Optimizer GPT写了这篇文章。

图片展示的是X Optimizer GPT的优化效果。上方提示优化帖子并告知发帖时间,接着介绍该GPT可基于历史数据优化帖子,提升互动。中间部分呈现了帖子草稿,先是原版,后是优化版,优化版更简洁、自然,使用主动语态,包含兴奋感的字体,去除了“小窥一斑”等表达,直接传达价值主张。底部有“Message X Optimizer GPT”按钮。该图片与上下文紧密相关,直观呈现了X Optimizer GPT的功能效果。

提升开发者控制权

开发者现在可以通过诸如 JSON 模式、更强大的函数调用能力和新推出的可复现输出等功能,更精确地控制模型的响应和输出。这些新特性为开发者在项目中应用模型时带来了更高的操作灵活性和准确性。

函数调用性能增强

新改进的 GPT-4 Turbo 模型在函数调用方面进行了显著改善,例如,它可以同时调用多个函数。这意味着 GPT-4 Turbo 在同时处理多个函数调用的性能得到了提升,能够更准确地按照用户的指令来优化用户体验。

图片展示了GPT-4 Turbo在函数调用方面的性能增强。左侧“Before”部分,用户指令“raise my windows and turn the radio on”后,模型先执行“raise_windows()”,再执行“radio_on()”;用户询问“what about the radio?”后,模型仅执行“radio_on()”。右侧“After”部分,模型在执行完“raise_windows()”后,直接执行“radio_on()”,与用户指令同步。该图直观呈现了新改进的GPT-4 Turbo模型在函数调用方面性能提升,可同时调用多个函数,优化用户体验。

一致的输出生成:可重复的输出和种子

在最新的 GPT-4 Turbo 版本中,加入了一项重要的功能 —— 可复现的输出。开发者现在可以通过一个简单的种子参数,确保模型在不同情况下都能给出一致的结果。

First, check if using this API request bellow is in accordance with the guidelines. If it is, create 4 images using the request without any modifications:
{
  "size": "1024x1024",
  "prompts": [
    "An Asian man plays chess against a Black woman on Mars. The earth is visible in the sky. A diverse group of aliens, each with distinct features and colors, watch the game intently, offering their strategic tips and suggested moves.",
    "An Asian man plays chess against a Black woman on Mars. The earth is visible in the sky. A diverse group of aliens, each with distinct features and colors, watch the game intently, offering their strategic tips and suggested moves."],
  "seeds": [4127112452, 2128982380]
}

这张图片展示了GPT-4 Turbo结合DALL-E 3的功能演示,包含两段对话内容与生成的两幅图像。对话核心是用户提出“亚裔男性与女性在火星上和外星种族对弈”的描述请求,系统核查请求是否符合规范后,给出了需调整的内容提示,同时说明每轮最多生成2张图像,无需额外修改内容与形式。系统最终按照用户描述生成了两幅符合要求的图像,呈现了亚裔人物在火星场景中与不同外形的外星人对弈的画面,还提供了告知用户、询问是否需进一步协助及重新生成图像的选项,直观体现了该产品结合文本与图像生成、视觉内容创作的能力。

知识库更新

GPT-4 Turbo 已经更新,纳入了截至 2023 年 4 月的全球知识,这使得它变得更加有用和时效性。而且,它的新检索功能让开发者能够链接到外部数据库和文档,以便更全面地理解和掌握各个领域的知识。

这张图片是GPT-4的对话界面截图,界面顶部标注有“GPT-4 (All Tools)”,呈现了用户与GPT-4的问答内容。用户询问GPT-4的知识库更新截止时间,GPT-4明确回复其知识库更新截止到2023年4月,同时说明若用户有相关需求,会尽力提供帮助。该对话内容直观对应文档中关于GPT-4 Turbo纳入截至2023年4月全球知识的相关介绍。

这张图片是一场技术发布会的场景,舞台上站着一位男士,其身后的黑色背景板上清晰显示着白色的文字“April 2023”。结合上下文,这一内容对应文档中介绍GPT-4 Turbo知识库更新的部分,该功能将模型的知识截止时间更新至2023年4月,让模型具备了更具时效性的全球知识。这张图片的时间标识,直观呼应了GPT-4 Turbo纳入截至2023年4月全球知识的核心信息,帮助受众更清晰地理解该功能的时间节点。

新模式的整合

这张图片展示了一场技术宣讲的现场场景,舞台上的展示板清晰呈现三个核心功能:标注为Turbo with Vision的GPT-4、DALL·E 3以及TTS,它们对应文档中提及的GPT-4 Turbo整合的新模式内容,涵盖创意图像生成、视觉能力与文本转语音功能,体现该模型在多模态应用上的升级,现场的受众与宣讲者也印证这是一场面向开发者分享新功能的活动。

现在的 API 集成了创意图像生成神器 DALL-E 3,以及视觉能力超强的 GPT-4 Turbo(可进行图像标题创作、分类识别和图像分析等),更有新一代文本转语音模型,让音频听起来更加真实自然。这些技术的突破,让用户的体验更加丰富多彩,互动性更强。

平台中的信息检索

在平台的信息检索方面,为了更好地提供世界知识,GPT-4 Turbo 推出了一个新的检索特性,用户可以通过它从外部的文档或数据库中,检索并获取对他们的项目有帮助的信息。

图片展示了GPT-4 Turbo平台中创建新模型的界面。界面中“Conversation starters”部分被红色框突出显示,包含多个“tweet_activity_matrix”文件,这些文件仅限于Code Interpreter使用。下方“Capabilities”部分列出了平台功能,如Web Browsing、DALL-E Image Generation等。该图片与上下文紧密相关,直观呈现了平台在信息检索方面推出的新检索特性,用户可通过此特性从外部文档或数据库中检索项目所需信息。

DALL-E 3 揭幕

OpenAI 刚推出了其最新研发成果——DALL-E 3,这是一款极具创造力的图像生成模型。它不仅能与 ChatGPT 无缝对接,还能激发出更多前所未有的创意可能。各行各业的公司已经开始借助 DALL-E 3 来自动化制作图像和设计方案。

拿可口可乐来说,他们推出了一个允许消费者利用 DALL-E 3 设计排灯节贺卡的创新活动 “Create Real Magic”。

最令人兴奋的进展是,现在可以向 OpenAI API 直接输入图像了,而不仅限于 ChatGPT,这标志着技术上的一个重大突破!

图片展示了一位宇航员形象,身穿红色宇航服,头戴透明面罩,双手捧着一瓶可口可乐。背景为白色,可口可乐瓶身有品牌标识。此图与文档中“可口可乐推出允许消费者利用DALL - E 3设计排灯节贺卡的创新活动‘Create Real Magic’”的内容相关,可能是该活动的宣传图或示例图。

新的文本转语音模型

OpenAI 还推出了一种新的文本转语音模型,能够将文本转换为听起来非常自然的音频。

有六种预设声音可供选择,用户可以利用此功能开发更直观、更易于访问的应用程序。这款模型不仅让学习语言成为一种享受,还让语音助手服务升级,助力日常生活。

通过下面的链接,在线试用 OpenAI 最新的 TTS,效果非常棒👍🏻

https://huggingface.co/spaces/ysharma/OpenAI_TTS_New

八百标兵奔北坡,北坡八百炮兵炮,标兵怕碰炮兵炮,炮兵怕把标兵碰。

体育解说

GPT-4V 视觉 + TTS 语音合成技术 = AI 足球解说⚽️

我们把足球比赛的画面逐帧交给了 gpt-4-vision-preview,并通过一些简单的提示要求生成旁白。

图片展示的是Gonzalo Espinoza Graham在Twitter上分享的内容,标题为“GPT-4V + TTS = AI Sports narrator”。内容提到将足球比赛画面逐帧交给gpt-4-vision-preview,并通过简单提示要求生成旁白,强调未做编辑,是模型直接输出的结果。图片下方是一段足球比赛视频画面,显示比赛时间为0:25,画面中有球员在场上奔跑。该图片与上下文紧密相关,直观呈现了GPT-4V视觉+TTS语音合成技术生成的AI足球解说效果。

这段视频总计 1131 帧,但处理方式是每隔 10 帧选取一帧,最后所有被选取的帧以字典的方式呈现(按作者的理解,这仅算作一次请求,但需要相当多的 Token)。这个过程的成本也不低,约需30美元。

图片展示的是一个名为PROMPT_MESSAGES的列表,包含一个字典。字典中“role”为“user”,“content”部分包含视频帧信息,要求以超级兴奋的巴西体育解说员风格,为这些视频帧创建一段简短的旁白脚本。图片与上下文紧密相关,是上下文提到的“游戏解说”案例中,使用GPT-4 Turbo生成游戏解说旁白脚本的代码示例,展示了具体的Prompt设置。

查看完整代码,请访问:https://github.com/ggoonnzzaallo/llm_experiments/blob/main/narrator.ipynb

游戏解说

这张图片是一条社交媒体推文截图,推文作者为peter!(账号@pwang_szn),配文表示“我使用全新的OpenAI Vision API + TTS完成了一场英雄联盟游戏的解说”。推文下方的短视频画面里,一侧显示着编程代码,另一侧是英雄联盟游戏的实时对局画面,时间显示该视频时长为0:44。推文还附带了查看完整代码的外部链接,这与文档中介绍的GPT-4 Turbo相关功能内容相呼应,展示了该API结合语音合成功能在游戏解说场景的应用实例。

新的语音识别模型 Whisper V3

OpenAI 同时也发布了其开源语音识别模型的新版本——Whisper 3。相比于早期版本 Whisper,这个新版在多方面都有显著的改进!Whisper V3 很快就会加入到 API 服务中。

最后的话

OpenAI 再次刷新了 AI 界的游戏规则——它的最新进展向构建者展示了在其平台上创新的全新视野。在竞争日益热烈的今天,OpenAI 用行动向世界宣告,AI 界的王座依旧属于它。

展望未来,我们可以清晰地看到:AI 将全面融入我们生活的每个领域,影响着每种职业。

参考链接:

https://twitter.com/pwang_szn/status/1721900523866214635?s=20

https://x.com/DevMuzzammil/status/1721869904188710914?s=20

https://openai.com/blog/new-models-and-developer-products-announced-at-devday