<aside> 💡
正式な研究室配属は来年4月からですが、SAEを用いたLLMの内部表現の解釈について研究室での実習として取り組んでいます。こちらは、様々な特徴が重なっていることで解釈が難しくなっているLLMの内部表現を、Auto encorderを使用して1特徴1成分に対応するスパースな表現へと変換するモデル(SAE)を学習することで、ハルシネーションやLLMの安全性といった課題への応用も期待されている研究です。
また、画像認識や強化学習などの、主に大学院生向けのゼミにも積極的に参加しています。
その他、インターンのR&D業務でRAGやCVに関する論文調査や実装を担当しました。
<aside> 💡
詳細は NDA の都合で記載できない部分がありますが、面接等では可能な範囲で具体的にお話します。
</aside>
深層学習を用いた異常検知アルゴリズムの実装
衛星画像の物体検出プロジェクト
物体検出の精度向上を目的とした、データの特徴や、データセット間の距離と検出タスクの性能に関する実装、分析
分析結果の可視化を行うGUI/CLIアプリケーションの作成
LLMを使用したアプリケーション開発(複数プロジェクト)
企業向けのRAGツールキットの作成
graphRAGなどの新規RAG技術に関する調査