LLMの安全性チューニングにおける過剰拒否の抑制
大規模言語モデル（LLM）の安全性チューニングによって、有害な要求だけでなく、本来応答可能な無害な要求まで拒否してしまう「過剰拒否」の抑制に取り組んだ卒業研究です。拒否挙動に関わるAttention Headと内部表現を分析し、その出力に正則化を加えるDPOベースの手法を設計・実装しました。安全性と有用性の両面からモデルを評価し、研究成果を言語処理学会第32回年次大会（NLP2026）で発表しました。
課題
安全性を高めるほど無害な要求への拒否も増加するため、安全性と有用性を両立させることが課題でした。また、LLM内部の多数のAttention Headから拒否挙動に関係するHeadを特定し、その影響を再現性のある形で評価する必要がありました。
対応・解決策
拒否方向と各Attention Headの内部表現との関係を分析し、拒否挙動への関与が大きいHeadを選定しました。その上で、DPOの損失関数に選定したHeadの出力を制御する正則化項を追加しました。Python、PyTorch、Hugging Faceを用いて学習・評価パイプラインを構築し、Jailbreak攻撃成功率と無害入力への拒否率を複数条件・複数seedで比較しました。
得られた知見
先行研究の調査、課題設定、手法設計、モデル学習、評価、結果分析、論文執筆、学会発表まで、機械学習研究の一連のプロセスを経験しました。また、単一の性能指標だけでなく、安全性と有用性のトレードオフを複数の評価指標から分析する重要性を学びました。