GitHub
重点新闻(1103～1109)
GitHub Copilot Chat 程式开发
GitHub将在12月正式上线程式助理Copilot Chat
原始码代管平台GitHub最近在技术年会上揭露新进展，将在下个月正式上线程式开发助手GitHub Copilot Chat，使用者可以自然语言方式，来进行程式码除错、程式码编写等任务。所有GitHub Copilot订阅户届时皆可使用，Copilot Chat也将免费提供给经验证的教师、学生和热门开源专案的维护者。
今年7月，GitHub就开始测试以GPT-4为基础的Copilot Chat。这次，他们在11月8日的年度大会上，除了揭露正式上线时间，也说明Copilot Chat的亮点，包括能根据程式码上下文来解释复杂概念、侦测安全漏洞，还能直接在程式码行中使用Copilot Chat处理特定程式码，另也引入斜杠指令（如/fix、/tests）和建议动作，使用者点击一下就能完成任务。GitHub也表示，他们正将Copliot Chat整合至github.com和行动版App中，後者可让使用者在Android或iPhone手机上，以文字或语音方式解决程式开发问题。
不只如此，GitHub Next研究团队还揭露新服务Copilot Workspace，由AI驱动，可协助开发者将想法转化为程式码。比如，开发者可在Copilot Workspace中提问，系统会自动产出建议计画，解释如何实作变更，开发者就可透过Workspace中的元件来建置、执行和测试程式码，若出现错误，系统还会自动修复。GitHub预计在明年正式推出Copilot Workspace。（详全文）
OpenAI GPTs ChatGPT
OpenAI发表客制化AI服务GPTs
OpenAI在年度技术会上发布新工具GPTs，能让使用者用来打造客制化ChatGPT，还能上传自己的ChatGPT到GPT商店，来让其他用户使用。OpenAI也提供几种样板，比如能回答所有桌游规则的ChatGPT、谈判教学的ChatGPT，或是技术支援顾问的ChatGPT等。GPTs即日起支援ChatGPT Plus与ChatGPT Enterprise等付费用户，并计画开放给更多用户。
OpenAI指出，使用者只需提供指令和额外知识，就能在GPTs建立特定目的的ChatGPT，完全不需撰写程式。而且，使用者打造的客制化模型，还能串接API，如资料库、Email等，来执行即时任务。甚至，企业使用者可用来打造内部分级专用的ChatGPT。OpenAI预告，他们将在这个月推出GPT Store，能让经验证的开发者上架自己的ChatGPT、与其它用户分享，OpenAI也将在未来几个月建立收费机制。（详全文）
GPT-4 Turbo API AI助理
OpenAI揭露GPT-4 Turbo，可消化300页文字
OpenAI最近在技术大会上发表GPT-4 Turbo预览版，不只训练资料更新到2023年4月，支援的脉络（Context Window）长度还达到12.8万个Token，最大输出量为4,096个Token。其中，脉络长度是指GPT在生成答案时，所参考的历史资料范围，包括使用者曾输入的文字，或GPT曾产生的答案，而支援12.8万个Token，代表GPT-4 Turbo最多可考虑将近300页的文字。
所有付费开发者皆可於API请求中，加入gpt-4-1106-preview来预览GPT-4 Turbo，正式版可望於数周後出炉。同时，OpenAI还推出Assistants API，能让开发者打造AI助理，可呼叫模型和工具来执行任务，如Code Interpreter、Retrieval与函数呼叫等。（详全文）
提示工程 xAI PromptIDE
xAI推出提示工程开发环境PromptIDE
就在xAI揭露自家大型语言模型Grok-1後几天，又推出了开发环境PromptIDE，能专门处理复杂的提示工程和可解释性研究。xAI指出，PromptIDE本是团队用来开发Grok-1所打造的开发环境，核心是一个Python程式码编辑器和Python SDK，可让使用者尝试复杂的提示技术。
在IDE中执行提示时，使用者可查看分析结果，如精确分词（Tokenization）、抽样机率、替代token和聚合注意力遮罩等。此外，这个IDE还提供品质管理功能，如自动保存所有提示、内建版本控制等。xAI表示，他们希望藉PromptIDE建立社群，来让使用者一键分享提示和分析资讯。目前，PromptIDE只供xAI的早期存取计画成员使用。（详全文）
生成式AI 晶片 晶创台湾方案
鼓励生成式AI晶片应用，政院通过10年3千亿晶创台湾方案
日前，行政院核准国科会提出的晶片驱动台湾产业创新方案（简称晶创台湾方案），将在2024至2033年的未来10年内，投入3,000亿元经费来推动生成式AI和晶片的创新应用。
进一步来说，该方案提出4大策略，除了促进生成式AI结合晶片的产业新应用，还要强化人才培育环境、加速产业创新所需的异质整合与先进技术，以及吸引国际新创和投资来台。该方案是由国科会跨部会，联手经济部、教育部、卫福部、农业部、数发部、国发会共同推出，不只规画2024年科技预算120亿元，未来10年还要投入3,000亿元来执行。国科会表示，该方案明年开始执行，後续将由经济部制定企业申请和审核规范。（详全文）
LLM 0.1AI Yi
李开复AI新创开源双语LLM
由前微软亚洲研究院院长、创投家李开复创立的AI新创零一万物（[01.AI](http://01.ai/)）最近发布大型语言模型Yi-6B和34B版本，并开源出来。零一万物是今年3月在中国成立的生成式AI新创，在成立8个月後，李开复在与彭博的访谈中公布名为Yi的首个LLM，包含60亿及340亿参数训练的2个版本 。这个模型已透过GitHub开源给社群。
Yi是一套中英双语的基础模型，可处理的上下文长度为200K个Token。虽然比起其他开源模型小得多，但根据Hugging Face列出的基准测试结果，Yi-34B效能在数个指标例如在常识推理、阅读理解和数学与写程式测试中，表现比Falcon-180B和Llama2-70B等大型模型还好。MMLU、CMMLU、C-Eval等测试中，也都拿下第一名。（详全文）
Brave AI助理 安全
Brave推出浏览器AI助理Leo
继Google Chrome和微软Edge後，浏览器开发商Brave也推出桌机版Brave浏览器的原生AI助理Leo，主打不蒐集对话、不追踪用户，且能减少AI幻觉问题。目前，Leo开放免费使用，用户可针对造访网页提出各种要求，例如为网页文章摘录重点、生成影片字幕、翻译网页、分析／改写或扩充原有网页内容。
与其他生成式聊天机器人不同的是，Leo的回应全以网页内容为基础，而非凭空生成资讯。与此同时，Brave也推出付费版的Leo Premium服务，每月15美元，有别於免费版Leo是以Llama 2为底层模型，Leo Premium以Claude Instant为基础模型，不只更快、更轻，还着重逻辑推理和程式码撰写，能更准确执行指令，在数学、程式、多语言和回应问题的能力也有提升。（详全文）
LLM LeMA 微调
微软研究院：从错误中学习的LLM表现更好
微软亚洲研究院、北京大学、西安交通大学研究人员联手提出一种AI训练方法LeMA，能模仿人类学习知识的过程、从错误中学习，进而改善AI推理能力。进一步来说，该方法的原理是生成一对包含错误与修正版资料的资料组，来微调LLM。为取得修正资料，团队蒐集了包括LLaMA和GPT系列的5个LLM的错误答案和推理途径，再以GPT-4作为「订正者」，来提供修正资料。修正资料包含三类资讯，分别是辨识出原有推理的错误步骤、解释推理为什麽错，最後修正错误、以及说明如何修正原方法以获得最後正确答案，之後再由人类评估，够好的修正答案才会用来微调LLM。
团队也以2种问题资料集来测试LeMa方法，并比较只以CoT资料集来微调LLM的效果。结果显示，以LLaMA-2-70B为例，它在两种方法下，在GSM8K资料集的准确率分别是83.5%、81.4%，在MATH则为25.0%和23.6%。团队还发现，在同样资料量的训练下，LeMA方法也比纯CoT微调来得好。（详全文）
三星 生成式AI 程式开发
三星揭露3款生成式AI模型，还要整合至新手机
南韩电子大厂三星日前在自家AI年度论坛上，揭露生成式AI模型Samsung Gauss，可处理文字生成、图像生成和程式码撰写能力。进一步来说，该模型由三星研究院打造，可细分为3种版本，包括Samsung Gauss Language、Samsung Gauss Image和Samsung Gauss Code。
其中，Gauss Language专精文字生成，可用於撰写电子邮件、摘录文件重点和翻译内容等任务。Gauss Code则与程式码撰写助理code.i相辅相成，能让开发者输入自然语言指令，来快速完成程式码撰写工作，还能透过互动介面生成程式码描述和撰写测试用例。Gauss Image则能让使用者轻易生成和编辑图片，包括变更风格、增添效果，或将低解析度图片转为高解析度。这些模型已於三星内部使用，未来将整合到多种自家产品和应用程式，比如语音助理Bixby、智慧家庭Smart Things设备，甚至是明年将上市的Galaxy S24手机等。（详全文）
图片来源／GitHub、OpenAI、xAI、Brave
AI近期新闻
1. IBM成立5亿美元的AI创投基金
2. 微软Xbox与Inworld AI合作打造基於AI的游戏开发工具
3. 英特尔首度在台公开展示三款AI PC笔电，还支援7B Llama 2模型推论
资料来源：iThome整理，2023年11月