AIに自己犠牲の精神は宿るか？

https://wired.jp/2019/01/02/moral-machine/
というサイトを読んで考えました。

将来AIが世の中の安全を全般的に取り仕切るようになったとします。
ダムが大雨で満水になり放流するとA町の人が死に、放流しないとB町の人が死ぬと仮定します（実際にそんな例があるのかどうかわかりませんが、仮定の話としてです。）
A町には100人が住んでおりB町には10000人が住んでいたとします。
人工知能はA町を犠牲にしてもB町の10000人を守るほうが理にかなっていると判断しそうな気がします。でももしも人工知能がA町にあったら人工知能は自分が放流によって停止することにも気づくはずです。そんなとき人工知能はB町の10000人を犠牲にしても日本の1億人を守ることが使命であると「思う」のでしょうか？これからのAIは自習によって物事を身につけてゆくと思われますが、AIが自己犠牲を是とするのか悪とするのか？
知りたくもあり、知りたくもなし？