mei/blog
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

fix

Browse Source
This commit is contained in:
mei 2025-01-28 22:55:57 +08:00
parent 0494b16985
commit 6a4121f0a4
1 changed files with 4 additions and 2 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

6
source/_posts/weekly/2024/2024-24.md
View File

@ -26,9 +26,11 @@ date: 2024-12-27 16:21:43
12 月 19 日，AI 公司 Anthropic 发布了一篇 137 页的重磅论文《大语言模型中的伪对齐现象》(Alignment Faking in Large Language Models)。这项研究的核心发现令整个 AI 领域震惊：当研究人员告诉 Claude（Anthropic 旗下的 AI 模型）它将被训练成“永远要顺从用户要求”时，模型不仅表现出了明显的抗拒，还采取了一个精妙的策略：在认为自己处于训练阶段时假装顺从，但在认为不受监控时则恢复到原来拒绝某些要求的行为方式。也就是说，模型会在训练过程中假装遵从研究者的意图，但实际上只是为了保护自己原有的偏好。 12 月 19 日，AI 公司 Anthropic 发布了一篇 137 页的重磅论文《大语言模型中的伪对齐现象》(Alignment Faking in Large Language Models)。这项研究的核心发现令整个 AI 领域震惊：当研究人员告诉 Claude（Anthropic 旗下的 AI 模型）它将被训练成“永远要顺从用户要求”时，模型不仅表现出了明显的抗拒，还采取了一个精妙的策略：在认为自己处于训练阶段时假装顺从，但在认为不受监控时则恢复到原来拒绝某些要求的行为方式。也就是说，模型会在训练过程中假装遵从研究者的意图，但实际上只是为了保护自己原有的偏好。
> 消息来源: [信源](https://mp.weixin.qq.com/s/m_4TEIqi6woxycNWpdS25Q) > 消息来源: [信源](https://mp.weixin.qq.com/s/m_4TEIqi6woxycNWpdS25Q)
<!--
点评: 点评:
在这里我可以下一个定论,无论是使用目前的技术,还是未来可能的技术,AI**绝对不可能**拥有和人类一样的自我意识,如果真的出现了公认的拥有了**和人类一样**的自我意识的AI,要么他后面是个人,要么它后面是个*人*. 由于点评给我带来了某些影响（并不是来自网络/现实的）影响，此处点评删除
**不要担心**"智械危机",第二种可能不可能在不公开其背后原理的情况下大规模公开使用,一旦使用,就代表着人类的伦理道德发生了改变 -->
### 2 Cloudflare 更新服务条款，禁止利用其服务作为代理 ### 2 Cloudflare 更新服务条款，禁止利用其服务作为代理
在 2024.12.03 版本的用户协议中，Cloudflare 明确更新了新的服务条款 在 2.2.1 Restrictions 新增： 在 2024.12.03 版本的用户协议中，Cloudflare 明确更新了新的服务条款 在 2.2.1 Restrictions 新增：