AIの普及は別の角度で問題を生み出している。それは個人情報（プライバシー）問題だ。Heiner氏は5年程前に米国で実際にあった事例を次のように語った。「とあるデパートから16歳の娘に対して妊婦向け商品のDMが送られてくる、と父親がデパートのマネージャーにクレームを付けた。その時マネージャーは頭を下げたが、3週間後には『自分の知らないうちに娘が妊娠していた』と父親が頭を下げに訪れた」（Heiner氏）という。
ここで注目すべきはAIが娘の妊娠をどのように気付いたかだ。同氏はSNS上での行動や、それまで使っていた整髪料を無香料に切り替えるなど、多彩な情報から妊娠を推察している。
このように自身の行動が意図しない状態でビッグデータ的に扱われる部分にプライバシー問題が発生するのだ。同氏は改善方法として「利用者に対するコントロール機能の提供」「（データ収集と使用方法などを明らかにする）透明性」「（データの保護や利用結果に対する）説明責任」を用意すべきだと語る。AIは人々が生み出すデータに依存するものの、正確な推論が欠かせない。だからこそ利用者は提供データの取捨選択、AI技術者やサービス提供者は透明性が重要だと同氏は強調した。
これらの諸問題に対しては多くのIT企業や各国政府が前向きに取り組んでいる。Microsoft社内ではAI倫理に関する議論を行う委員会を設置し、Microsoft ResearchのDr. Eric Horvitz氏を中心に開発者に対するガイダンスの発表を目指し、社外的にはGoogleやAppleといったIT企業が参画する団体「Partnership on AI to Benefit People and Society（人間と社会の利益のためのAIに関する協業）」に参画して、社会全体の課題として取り組んでいることを明らかにした。
各国政府に目を向けると、前述のとおり日本政府もOECD（経済協力開発機構）サミットに向けたAIガイドライン策定を目指し、2017年5月開催予定のG7サミット（主要国首脳会議）でも何らかの成果を報告するという。
AIが話題になると必ず議題に上がる「雇用問題」についてHeiner氏は、分からないと回答しつつも、技術の進化に伴う雇用需要は常に変化するからこそ、「『AIは人間の能力を拡張する』存在でなければならない」（Heiner氏）と述べている。Microsoft CEOを務めるSatya Nadella氏の発言「AIは人々の能力や体験を拡張する存在となる。コンピューターの演算機能と人間の（判断力や共感力などの）能力を高めたい」を引用し、AIで世界をより良くさせたいと展望を語った。
