哲学者。ダンディー大学で学士、オックスフォード大学でBPhil、ニューヨーク大学で無限倫理をテーマに哲学の博士号を取得。OpenAIのポリシーチームを経て、2021年よりAnthropicでファインチューニングとAIアラインメントを担当している。Claudeの人格・キャラクター設計チームを率い、Claudeの価値観と行動規範を定める「Claude's Constitution(Claude憲章)」の主要な執筆者として知られる。ルールの列挙ではなくClaudeの性格そのものを形づくり、良き判断を下せるようにすることを目指している。
出演している動画
Nature of truth - lessons from talking to Claude | Amanda Askell and Lex Fridman
Lex Fridmanとの対話からの切り抜き。Claudeと日々やり取りする中で見えてきた「真実(truth)の性質」について哲学者の視点から語り、AIとの対話が人間の思考や誠実さに与える示唆を掘り下げる。
How difficult is AI alignment? | Anthropic Research Salon
Anthropic公式のResearch Salon。Jan Leike、Alex Tamkin、Josh Batsonとともに登壇し、「AIアラインメントはどれほど難しいのか」を議論。モデルを安全かつ誠実に整合させることの難しさを研究者の視点で語り合う。
Amanda Askell on AI Consciousness, Claude & Silicon Valley's Biggest Fear
Newcomerによるインタビュー。AIの意識(consciousness)の可能性、Claudeの人格設計、シリコンバレーが抱える最大の懸念などについて、哲学者かつアラインメント研究者の視点から幅広く語る。
Dario Amodei: Anthropic CEO on Claude, AGI & the Future | Lex Fridman Podcast #452
Lex Fridman第452回に、Dario Amodei、Chris Olahとともに出演。Claudeの人格・キャラクター設計を担う立場から、モデルの性格をどう形づくるか、プロンプトの考え方やClaudeとの対話で得た知見を語る。