［セミナー講演］音声生成AIの最新動向と悪用対策

講演者：山岸順一
会議名：情報処理学会 連続セミナー2024「情報技術の新たな地平：AIと量子が導く社会変革」第12回「知能化した情報環境における共生インタラクションの未来」
主催者：情報処理学会
開催地：オンライン
開催日：2024年12月20日
URL：https://www.ipsj.or.jp/event/seminar/2024/program12.html

本講演ではまず劇的な進化を遂げている音声生成AIモデルの最新動向を紹介する。ボイスクローニングと呼ばれる話者性を再現する技術や、音声入力や音声出力を大規模言語モデル（LLM）において活用するための音声トークナイザー等を紹介し、どの様な音声インタラクションが現在研究されているか最新動向を紹介する

　その後、音声生成AIの悪用対策についても解説する。まず生成モデルによる人工的な音声か人間の音声かを見極めるディープフェイク検知技術に触れ、検知モデルの学習・評価用の大規模音声データベース、複数の検知モデルの劣悪条件下における分析結果を紹介する。最後に、音声生成AIのモデル重みを加工し、その音声出力に自動的に透かしを埋め込むNeural watermarkingについても紹介し、その有用性および限界についても紹介する。