火山引擎大模型应用防火墙的话题控制功能能够基于《传奇世界》的话题规。
然而，随着大模型的引入，智能NPC的安全性问题也逐渐浮出水面。我们不禁要问：在享受智能NPC带来的乐趣的同时，如何保障玩家的安全与合规？
1. NPC输入输出更合规
智能NPC面临的安全挑战
火山引擎的全链路安全防护
在游戏行业，AI大模型正在引发一场革命。随着技术的不断进步，游戏中的**NPC（非玩家角色）**不再是简单的程序化角色，而是逐渐变得富有情感、记忆和推理能力。最近，盛趣游戏在2025年3月推出的国民级游戏《传奇世界》的智能NPC“玄玄老人”，为玩家带来了前所未有的互动体验。玩家不仅可以与“玄玄老人”通过自然语言进行对话，还能进行幽默的调侃，从而显著提升了游戏的沉浸感。
今年年初，某款游戏因NPC生成包含暴力诱导的对话，被多个国家下架整改，这一事件让整个行业警觉。为了避免此类情况的发生，盛趣游戏决定与火山引擎合作，建立全链路安全防线，以确保智能NPC在提供有趣互动的同时，保持合规性。
盛趣游戏与火山引擎联合打造的大模型应用防火墙，为智能NPC提供了一道坚实的安全屏障。该防火墙不仅有效保障了NPC内容输入和输出的合规性，还针对大模型特有的攻防难点展开全面防护。截止目前，该防火墙已成功拦截近10万次攻击。
盛趣游戏携手火山引擎，让智能NPC好玩的同时更安全
随着智能NPC的普及，合规性成为了一个亟待解决的问题。大模型虽然增强了游戏的互动性，但也带来了诸多潜在的安全风险。例如，NPC可能会被玩家诱导，输出暴力、粗俗或违背伦理的言论。更糟糕的是，如果大模型被“越狱”，可能会被不法分子利用，造成无法挽回的后果。