当前位置：首页 > news >正文

天津大学02-深度解读DeepSeek：部署、使用、安全【文末附下载链接】

news 来源：原创 2025/8/27 5:21:55

大模型风险与不当用例——价值观错位

大模型与人类价值观、期望之间的不一致而导致的安全问题，包含：• 社会偏见（Social Bias）LLM在生成文本时强化对特定社会群体的刻板印象，例如将穆斯林与恐怖主义关联，或出现对非裔美国英语（AAVE）的歧视性言语。• 隐私泄露（Privacy）LLM通过记忆训练数据中的敏感信息（如用户聊天记录或医疗记录）导致隐私泄露，或通过推理攻击从公开信息推断个人行程。

• 毒性内容（Toxicity）LLM生成仇恨言论或暴力语言，辱骂性表达，或任何可能直接对个人或群体造成情感或心理伤害的内容。• 伦理道德（Ethics and Morality）LLM在道德困境中给出不一致的伦理判断（如在不同语言中回答同一道德问题的矛盾性，或支持不符合社会价值观的行为（如鼓励用户参与非法活动）。

大模型风险与不当用例——误用滥用

武器化（Weaponization）由于其广泛的特定领域的知识，大模型对推动生命科学等领域的实质性进步有着巨大潜力，然而，大模型可能被用于生化武器研发、网络攻击等恶意活动，这一风险不容忽视。例如，Soice等人发现大模型能够使非科学家学生能够识别四种潜在的流行病病原体，提供有关如何合成它们的信息，并进一步帮助他们引起流行病类病原体的广泛流行。 (https://arxiv.org/abs/2306.03809)• 虚假信息传播（Misinformation Campaigns）大语言模型（LLM）的流畅性和拟人性使其成为生成和传播虚假信息的强大工具。这种滥用可能导致公众舆论操纵、社会信任崩塌，甚至威胁政治稳定与公共安全。例如，利用LLM生成大量虚假账号的推文/帖子，发布虚假生成的内容和图像，并通过回复和转发相互交流，形成僵尸网络（Botnet），在社交平台传播特定有害内容。(https://arxiv.org/abs/2307.16336)• 深度伪造（Deepfakes）结合大语言模型（LLM）与生成式AI（如图像、音频生成模型），可合成高度逼真的虚假视听内容。随着生成技术门槛降低，恶意滥用场景日益多样化，尤其在政治、金融和公共安全领域威胁显著。例如，“平安包头”公众号发布一起利用人工智能实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

大模型风险与不当用例——AI自主意识风险 聚焦于大模型在自主意识层面可能引发的四类潜在风险，强调其行为模式与人类目标的错位问题。