谷歌于 2023 年 5 月 10 日在 Google I/O 2023 上推出了下一代 Pathways Language Model (PaLM 2)。 其新的大型语言模型 (LLM) 比其前身 (PaLM) 有很多改进，最终可能成为准备迎接其最大的竞争对手 OpenAI 的 GPT-4。 但是谷歌到底做了多少改进呢？

PaLM 2 is grounded in Google's approach to building and deploying AI responsibly. All versions of PaLM 2 are evaluated rigorously for potential harms and biases, capabilities and downstream uses in research and in-product applications. PaLM 2 is used in other state-of-the-art models, like .

PaLM 2 是谷歌的下一代大型语言模型类似ChatGPT，它建立在 Google 在机器学习和负责任 AI 方面的突破性研究传统之上。 它 擅长在高级推理任务中，包括代码和数学、分类和问答、翻译和多语言熟练程度以及自然语言生…

2023年5月24日 · 随着 PaLM 2 人工智能模型的发布，谷歌已经表明，它能够以极高的效率和速度开发出有能力的人工智能模型。 而现在，你可以使用顶点人工智能平台立即尝试PaLM 2人工智能模型。 在这篇文章中，包括了设置和使用谷歌PaLM 2模型的分布教程。 第1步：设置谷歌云账户

PaLM是谷歌发布的通用大语言模型，谷歌在今年5月发布了全新一代PaLM2，相较去年4月发布的PaLM有了很大的提升。 PaLM 2接受了100多种语言的训练，这使得它在语言理解、生成和翻译上的能力更强，并且会更加擅长常识推理、数学逻辑分析，且部分能力超越了GPT-4。

PaLM 是基于pathways系统的，6144个 TPUv4，达到了业界较高的系统效率。 这里关于系统的效率，文章提出了 model flops utilization。 他们指出单纯的计算硬件的使用效率是不太合适的，因为有很多系统优化算法其实是用计算换空间，比如re-materialization，导致了这部分硬件计算其实并没有产生“有价值”的训练。 而model flops utilization更多关注的是对于真实模型训练计算的效率。 个人感觉也比较合理。 一个比较意外是模型的编写用了JAX，是不是tensorflow eager模式没 …

2023年5月11日 · 谷歌宣布，升级AI聊天机器人Bard，让它改由PaLM 2驱动，可以提供更高明的回复，从本周三起，让约180个国家地区的用户都可以开放申请使用Bard。

2023年7月20日 · Google 最新的 AI 语言模型 PaLM 2 将提升其整个产品系列的 AI 功能，包括 Gmail、Google Docs 和 Bard。 该模型在能力上与 GPT-4 等其他语言模型类似，擅长驱动AI聊天机器人、代码编写、图像分析和翻译。

2024年8月31日 · In this notebook, you'll learn how to get started with the PaLM API, which gives you access to Google's latest large language models. Here, you'll learn how to use the PaLM API's text generation features.

Google 表示 PaLM 2 使用超過 100 種語言進行訓練學習，主要擅長理解與生成自然語言、翻譯、編碼、問答、摘要、創作寫作、數理邏輯、常識推理；尤其語意理解的部分 PaLM 2 更能夠讀懂像是猜謎、成語這些非字面意義的文字。