dolly-15k 的训练集在发布 24 小时就被翻译成了其他语言，这就是开源的力量。

https://huggingface.co/datasets?search=dolly-15k

Sam Altman at MIT

小参数量 + 高质量训练集可能比堆叠参数量要更加重要。

小参数量意味着成本和推理速度更快。

Stability AI 发布了新的扩散模型：Stable Diffusion XL Beta

可以使用 API 来进行访问，优化了面部和文字的生成效果。

https://twitter.com/StabilityAI/status/1646672027103707136

X (formerly Twitter)

Stability AI (@StabilityAI) on X

Introducing Stable Diffusion XL beta! Our latest image generation model, now available through our API, excels at photorealism & adds many cool features like enhanced face generation, minimal prompts & legible text. Try out #SDXL in @DreamStudioAI now:…

GPT-4 在标注 twitter 政治相关的推文方面效果要好于人类

虽然 GPT-4 不是分类器，但是可以通过 few-shot / zero-shot 的方式充当分类器，twitter 的这个例子直接使用 zero-shot 就能够很好完成了。

审核工作是非常常见的一种工种，未来被 AI 代替的可能性目前看起来非常高。

https://arxiv.org/pdf/2304.06588.pdf

基于富文本的 text-to-image 生成

这个还挺有意思的，把富文本作为特殊的属性标签，例如把 house 这个词改成红色，那么生成的房子就会变成红色。

一定程度上简化了 prompt 的描述，并且可以使用更加具象的信息来作为输入。

https://rich-text-to-image.github.io/

一份 ChatGPT 的调查报告

详细介绍了技术、应用、未来挑战这 3 个主题。

https://arxiv.org/abs/2304.06488

https://arxiv.org/pdf/2304.06488.pdf

GPT-4 帮助陶哲轩节省了大量繁琐的工作。

https://mathstodon.xyz/@tao/110172426733603359

目前看过的最好的 prompt engineering 教程。

已经被翻译成了各种语言，不过看了一下，英文的是最准确的，因为中文的 prompt 只是英译中，非常不 native。

https://learnprompting.org/

ShareGPT 是一个 chrome 插件，可以分享在 ChatGPT 上有意思的对话。

GitHub Repo 中提供了 API 的形式来调用 ShareGPT 上的数据，一个常见的做法是使用 ShareGPT 上的对话数据来作为其他 pre-train 模型的 instruction tuning 的 input data，可以训练出一个类似 gpt-3.5 的模型（效果略差）。

https://github.com/domeccleston/sharegpt

GitHub

GitHub - domeccleston/sharegpt: Easily share permanent links to ChatGPT conversations with your friends

Easily share permanent links to ChatGPT conversations with your friends - domeccleston/sharegpt

Vicuna-7B 模型（前几天就发布了）

可以直接在 macbook 上跑，使用 pip install fschat 即可安装（但是还是需要自己下载 weights）。

7B 只需要 30GB 的 memory，项目还提供了一个基于 gradio 的 web ui。

开源项目地址：https://github.com/lm-sys/FastChat

https://twitter.com/lmsysorg/status/1644060638472470528