2014年度 SFC研究所プロジェクト補助報告書

研究課題名:中間像の提示による身体的技能の学習
氏名   :中西泰人
所属   :環境情報学部

外国語学習方法の一つにネイティブスピーカーの発話を真似るシャドーイング(Shadowing)がある.本研究では一般的なシャドーイングに加え,学習者に教師との顔の中間像を提示し,教師の口・唇の動きも真似るための方法を提案する.

提案手法ではまず,画像処理によって教師および学習者の顔・口・唇の動きをリアルタイムに3次元メッシュとして取得する.それらのメッシュに学習者の顔の画像をテクスチャとして貼り付けることで,教師の口・唇の動きで学習者の顔が変形する中間像を提示する.本手法では学習者が真似をする対象を,教師の発音および口・唇の動作とするのではなく,教師の発音と教師および同じように口と唇が動く中間像とする.

openFrameworksを用いてシステムを実装し,単なるシャドーイングと中間像を提示するシャドーイングそれぞれを用いた発話を評価するにあたってはAmazon Mechanical Turkを用いた.英語のネイティブスピーカーによる評価では,提案手法による発話が単なるシャドーイングによる発話よりも自然であるという意見が多く得られた.

本研究は様々な身体的技能の学習者に教師との中間像をリアルタイムに提示する技術の萌芽的研究であり,ここで得られた成果を下に2015年度の科研費・基盤(B)への申請を行い,また以下の論文発表を行った.

Yoko Nakanishi and Yasuto Nakanishi Generating Intermediate Face between a Learner and a Teacher in Learning Second Language with Shadowing , WISS2014, Poster 2A-03 (2014/11).

Yoko Nakanishi and Yasuto Nakanishi Use of an Intermediate Face between a Learner and a Teacher in Second Language Learning with Shadowing, ACM Augmented Human 2015 (to appear in 2015/03)