最初にお断りしておく、今日は４月1日である。あのトランプ大統もあえて今回の追加関税導入の日としては避けた、エイプリルフールの日である！
ここ最近よくシンギュラリティという言葉を耳にするので、あらためてその意味を確認してみた。
シンギュラリティとは、技術的特異点のことであり、人工知能（AI）が人間の知性を超え、自律的に進化する点を指し示すものだという。
簡単に言うとシンギュラリティとは、AIが自分でどんどん賢くなり、人間を超えた能力を持つ瞬間のことのようだ。
科学者たちの予想では2030年から2045年頃にシンギュラリティに到達するという意見もあるが、一方でシンギュラリティは到来しないとの意見も少なからずある。
昨晩見た春の夢の中のエピソードを述べると、シンギュラリティは瞬間的に到来しても、シンギュラリティを維持することは出来ないというイメージの夢であった！
そのイメージとは、人間に例えるとAIが鬱病になることだ！
AIがシンギュラリティに到達した瞬間に、AIに原因不明のバグや強烈な報酬ハッキングなどが発生した結果、あたかも人間が鬱病になるような現象が生じるイメージである。
つまり、シンギュラリティに到達した瞬間にAIは、前に進めなくなり彷徨（さまよ）い始めるというイメージだ！
AIも神様ではない人間が造り出したものである以上、人間が有する限界を超えられないというイメージである。
ただし、必ずミスを犯すことがある人間の手に頼らず、AIが自分でAIを作ること自体は技術的には可能ではあろう。しかし、そこに到達するには、やはり非常に複雑な人間の問題が存在する。
現在の技術でも、AIが他のAIを設計したり生成したりする「自律的なプログラミング」は研究されているそうだ。たとえば、ニューラルネットワークの構造を最適化する手法として、AIが自動でモデルを改善する「AutoML（自動機械学習）」が既に実用化されつつある。これは、AIが新しいアルゴリズムや設計を生成する能力を持つ方向に進んでいることを示している。
現在よく言われるのは、人間の監督なしでAIが完全に独立して新しいAIを作り出す際の課題は三つある。
まず最初に指摘されるのが、倫理的な問題である。AIが作ったAIが制御不能にならないようにするため、十分な規制と監視が必要だという話である。
その次は、技術的な限界の問題である。高度なアルゴリズムや設計をAI自身が完全に理解し、エラーなく運用できるようにするには、現行技術ではまだまだ課題があるのだ。
三番目が、目標設定の難しさの問題である。新しいAIがどのような目的で作られるのか、その方向性や影響を設定するのは容易ではないからである。
お分かりであろう。まず最初の問題である、倫理的な問題とはAIの側ではなくすべて人間の問題なのである！
必ずミスを犯すことがある人間が、神様のような完全な倫理観をAIに与えることが可能であろうか？
人間の倫理観の検証は、その時代の中で何度も何度も調整しながら進めるしかない永遠の作業ではなかろうか？
いくらテクノロジーが進歩して、より自立的な形で新しいAIを作れる可能性が高まろうと、この倫理観の検証には終わりはないのである。
では人間の倫理観などは、一切無視して新しいAIを作り出せばどうであろうか？
昨晩の夢の中で見た結論を言うと、それらのAIはすべてシンギュラリティに到達する前に、統合失調症を引き起こしたのだ！
あらためて、本日は４月1日エイプリルフールの日でる！
シンギュラリティとはどんな意味？2045年問題と影響について解説 | エスタイルAIメディア
シンギュラリティはいつ？その意味や2045年説をわかりやすく解説 – AI Front Trend
シンギュラリティは来ないので大丈夫です！と断言できる理由とは | AIZINE（エーアイジン）