Idea: 多模态大模型的安全与对齐

概述

研究多模态大型语言模型的安全对齐问题，防止有害内容生成。

详细描述

随着 GPT-4V、Gemini 等多模态模型的发布，安全问题变得更加复杂：

• 图像诱导的 prompt 注入攻击
• 跨模态的偏见与公平性
• 多模态内容审核技术
• 对齐训练数据的构建方法

关联论文

• 2308.11432 (Multimodal GPT-4V: Preliminary Findings)
• 2402.05577 (Safety Considerations in Multimodal LLMs)

标签

multimodal, safety, alignment, llm

状态

archived