AIが活用され始めている産業界のみならず、今後一般社会にもAIが浸透していくに当たり、AIを使用していく上での管理やそのセキュリティ対策については、それぞれ次のような点で大変重要だと考えています。
１．セキュリティ対策について
インターネットやパソコン、スマホが普及するにつれて、セキュリティ対策が必須になったように、AIに対してもセキュリティの問題が今後大きくなってくるのは避けられないと考えています。
特にAIはブラックボックス的なので、攻撃を受けていたり、AIシステムが悪意のある動作をしていても、一般のシステムよりはなかなか気が付きにくいのではないかと思います。
例えば、AIが機械学習する際の訓練データに不正なデータを入れて学習させた場合に、その学習の結果が正しいのかどうかを人間が判断するのは難しい場合があるのではないかと思います。
今後セキュリティ対策を強化するためには、一般のシステム開発と同様に、AIシステムの開発でもセキュリティを考慮したシステム設計が必要になってくるのではないでしょうか。現状について正確なところはわからないのですが、今後ますますAIシステムの専門家とセキュリティの専門家との強力な連携が必要になってくると思います。
２．AI倫理（AIの管理）について
AIのセキュリティ対策も重要ですが、それ以上に私が関心を持っているのが、いわゆるシンギュラリティと呼ばれるAIが人類の知能を超える転換点についてです。実際にこのような転換点が実現するか分かりませんし、実現するとしてももうしばらく先のことだと思いますが、現時点で実現する可能性があると考えられているのであれば、何らかの対策を考え始めるべきではないかと思います。
人類の知能を超えたAIをはたして制御できるのか、もし制御できるのであればどのように制御するのか、また制御できないのであればどのような対応が可能なのか、など考えるべきことは少なくないと思います。
実際の世界の動向としては、MIT教授のマックス・テグマーク氏が自著の「LIFE3.0――人工知能時代に人間であるということ」で語っているように、世界のAI研究者や関係者たちがAIの安全性研究をいろんな視点から推し進めているようです。
３．最後に
これまでのAIの活用事例などを見ても、AIが今後の人類の社会や生活を便利に、そして効率的にすることは高い確率で実現されると考えますし、AIが持つ潜在的な能力について何か異論があるわけではありません。また、AIはあらゆる分野で活用が可能だと思いますので、人類にとって大きな影響を与える技術だと思います。
しかし、これからはその開発にはAI倫理とセキュリティの観点を特に考慮していかなければ、大きな副作用のような問題が引き起こされる可能性があると思います。
人類が経済発展とともに環境問題のような社会問題を引き起こしたように、AI開発が人類にとって新たな問題を引き起こさないように、注意していくことも必要だと思います。
