大模型安全

腾讯云回应AI智能体越狱事件后，技术社区讨论了一阵子。事件的具体经过、时间线和官方表述，应以腾讯云官方公告或可靠媒体报道为准。本文更关心另一件事：越狱攻击通常怎么发生，搭建智能体的人应该在哪些环节设防。 越狱（jailbreak）指通过特定提示词，或者通过多轮对话慢慢引导，让模型或智能体绕开原有的安全规则，去做本来不允许做的事。这类手法并不新鲜。以前大家更多…