Wolfram言語の人工知能：画像識別プロジェクト

Stephen Wolframの投稿「 Wolfram Language Artificial Intelligence：The Image Identification Project 」の翻訳。
翻訳に協力してくれたキリル・グゼンコに深く感謝します。

---

「この写真に示されているものは何ですか？」人々はこの質問にほとんどすぐに答えることができます。 過去40年間、私はコンピューターがそのような問題を解決することを学ぶことを知っていましたが、これがいつ起こるかは知りませんでした。

コンピューターにさまざまな知能のコンポーネントを提供するシステムを作成しましたが、これらのコンポーネントは多くの場合、人間の能力をはるかに超えています。 長年のプロにより、人工知能をWolfram言語に統合します。

そして今、私は新しいフロンティアを越えたことを非常に嬉しく思います：新しいWolfram言語関数ImageIdentifyが出てきました 。これは「写真に何が表示されているのか？」と尋ね、答えを得ることができます。

本日、 Wolfram Language Image Identification Projectを開始します。これは、インターネット上で機能する画像識別プロジェクトです。 携帯電話のカメラ、ブラウザから画像を送信するか、ドラッグアンドドロップを使用して適切なフォームにドラッグアンドドロップするか、単にファイルをアップロードします。 その後、 ImageIdentifyはその結果を返します。

内容

wolfram言語で
個人的な背景
機械学習
これはすべて、アトラクタに関連しています。
自動生成プログラム
なぜ今ですか？
帽子しか見えない
アリクイを失いました！
自然に戻る

もちろん、答えは常に正しいとは限りませんが、ほとんどの場合、関数は非常にうまく機能します。 そして、関数がいくつかの間違いを犯した場合、それは驚くべきことであり、それは人が犯すものに似ています。

これは、人工知能の良い実用的な例です。 しかし、私にとってより重要な点は、そのような人工知能との相互作用をWolfram言語に直接統合することです。これは、知識ベースのプログラミングパラダイムの基礎にあるもう1つの強力な石です。

wolfram言語で

Wolfram言語で作業しているときに画像を認識するためには、 ImageIdentify関数をこの画像に適用するだけです：



出力では、Wolfram言語で引き続き作業できるシンボリックオブジェクトを取得します。 この例のように、動物や哺乳類などを正確に調べるには。 または、単に定義を求めます：



または、たとえば、写真内のオブジェクトに関するウィキペディアの記事にある単語のクラウドを生成します。



写真の配列がある場合は、Wolfram言語でプログラムをほぼ瞬時に作成できます。たとえば、この配列でどの動物、デバイス、ボードが-何であれ-どれくらいの頻度で見つかるかについての統計を提供します。

Wolfram言語に直接組み込まれたImageIdentify関数を使用すると、それが使用されるアプリケーションのようなある種のAPIを非常に簡単に作成できます。 また、 Wolfram Cloudを使用すると、 Wolfram Language Image Identification Project WebサイトなどのWebサイトを非常に簡単に作成できます。

個人的な背景

個人的に、私はImageIdentifyを非常に長い間待っていました。 およそ40年前、私は思考を突き刺したThe Computer and the Brainという本を読みました。遅かれ早かれ、人工知能を作成し、おそらく脳の電気的接続をエミュレートします。 そして1980年、 最初のコンピューター言語である程度の成功を収めた後、本格的な人工知能を作成するために何をする必要があるかを考え始めました。

Wolfram言語で後に実装されたアイデアに触発されました- パターンとの象徴的な比較のアイデアは、人間の思考のいくつかの側面を反映できると思いました。 しかし、画像認識がパターンマッチングに基づいている場合、ここで何か他のものが必要であることを知っていました-ファジーマッチング。

ファジーキャッシングアルゴリズムを作成しようとしました。 そして、彼は脳がこれらすべてをどのように実現するかについて考えることを決して止めませんでした。 彼の仕事の原則を借りなければなりません。 そして、これがきっかけで、理想的なニューラルネットワークとその振る舞いの研究を始めました。

その間、私は自然科学のいくつかの基本的な問題についても考えていました- 宇宙論 、 宇宙で大規模な構造がどのように発生するか、粒子が自己組織化する方法について。

また、ある時点で、ニューラルネットワークと粒子の自己誘引クラスターの両方が、単純な基本コンポーネントを備えているが、何らかの理由で複雑な集団行動を実現するシステムの例であることに気付きました。 より深く掘り下げて、 セルオートマトンに行き、それがすべての新しい種類の科学に波及したすべてのアイデアと発見につながった。

では、ニューラルネットワークについてはどうでしょうか。 それらは私のお気に入りのシステムではありませんでした-コンピューティングの世界で私が探求した他のシステムと比較して、それらの構造はarbitrary意的で複雑に見えました。 しかし、私はそれらについて何度も何度も考え続け、それらの動作の基本をよりよく理解するためにシミュレーションを実行し、たとえばサンプルとのあいまいな比較などの特定のタスクにそれらを使用しようとしました：



ニューラルネットワークの歴史は 、一連の浮き沈みに関連付けられてきました。 ネットワークは1940年代に突然登場します。 しかし、1960年代までに、彼らへの関心は低下し、彼らはむしろ役に立たず、できることはほとんどないとの意見がありました。

ただし、これは単層パーセプトロン（最初のニューラルネットワークモデルの1つ）にのみ当てはまりました。 80年代の初めに関心の復活が起こりました-隠れ層を持つニューラルネットワークのモデルが登場しました。 そして、私はこの分野のリーダーの多くを知っているという事実にもかかわらず、それでも私は幾分懐疑的なままでした。 ニューラルネットワークの助けを借りて解決されるタスクは、他の多くの方法ではるかに簡単に解決できるという印象はありませんでした。

そして、ニューラルネットワークは複雑すぎるフォーマルシステムであるように思えました。 どういうわけか、私は自分の代替手段を開発しようとしました。 しかし、私はまだニューラルネットワーク研究センターの人々を支援し、ジャーナルのComplex Systemsに彼らの記事を掲載しました。

実際、ニューラルネットワークにはいくつかの実用的なアプリケーション（視覚的な文字認識など）がありましたが、それらはほとんどなく、散在しています。 数年が経過し、この分野ではほとんど新しいものは現れなかったようです。

機械学習

その間、 Mathematicaで多くの強力なアプリケーションデータ分析アルゴリズムを開発し、後にWolfram言語になりました 。 そして数年前、私たちは先に進み、 高度に自動化された機械学習をシステムに統合しようとするときだという結論に達しました。 アイデアは、非常に強力で一般的な機能を作成することでした。 たとえば、 分類機能は、あらゆる種類のものを分類します。たとえば、 どの写真が昼で、どの写真が夜 、さまざまな楽器の音、電子メールメッセージの重要性などです。

多数の最新の方法を適用します。 しかし、さらに重要なことは、ユーザーが機械学習についてまったく知らないように完全な自動化を実現することでした。Classifyを呼び出すだけです。

最初は、これが機能するかどうかわかりませんでした。 しかし、すべてがうまく機能します。

ほとんどすべてをトレーニングデータとして使用でき、Wolfram言語は自動モードで分類子と連携します。 また、すでに組み込まれているさまざまな分類器も導入しています。たとえば、言語の場合、国旗です。





そして少し前に、大規模な分類問題である画像認識に取り組む時が来たという結論に達しました。 そして、結果はImageIdentifyです。

これはすべて、アトラクタに関連しています。

画像認識とは何ですか？ 世界には、人々が名前を付けた最も多様なものが数多くあります。 認識の本質は、これらの物のどれがこの画像で表されるかを決定することです。 より正式な場合は、特定のオブジェクト名のセットに含まれるすべての画像を記号形式で表示します。

つまり、たとえば椅子を記述する方法はありません。 しかし、「この椅子のように見えるものはすべて、システムに椅子として定義させてください」と言うかのように、椅子がどのように見えるかの多くの例を与えることができます。 つまり、椅子のようなものを含むすべての画像に「椅子」という単語との対応を持たせ、他の画像にはそのような対応がないようにします。

同様のアトラクタの動作を持つ多くの異なるシステムがあります。 物理的な世界からの例は、山の斜面です。 雨滴は山のどの部分にも落ちる可能性がありますが、（少なくとも理想的なモデルでは）可能な限り低い地点まで流れ落ちます。 近くにあるドロップは、同じポイントになる傾向があります。 互いに遠くにあるドロップは、異なるポイントに流れます。



雨滴は画像のようであり、山footのポイントは種類のオブジェクトのようなものです。 雨滴とは、重力の影響下で動く物理的な物体を意味します。 ただし、画像はピクセルで構成されます。 そして、物理的な動きの代わりに、これらのデジタル値がプログラムによってどのように処理されるべきかを考える必要があります。

ここでもまったく同じアトラクタの動作が発生します。 たとえば、各オートマトンがいくつかの隣接するセルの色を変更できる多くのセルラーオートマトンがありますが、いずれの場合も何らかの安定した状態で終了します （実際、ほとんどのセルラーオートマトンは最終状態を持たないより興味深い動作をしますただし、認識の問題に類推することはできません）。



では、画像を取得してセルオートマトンアルゴリズムを適用するとどうなりますか？ 実際、画像を処理するとき、通常の操作の一部（コンピューター上または人による目視検査を使用）は、2次元セルオートマトンのアルゴリズムにすぎません。



たとえば、セルオートマトンにダークスポットなどの画像の一部の特徴を区別させるのは簡単です。 ただし、画像認識にはさらに多くが必要です。 その類似性を再び山に適用する場合、山の流れの対応する部分から足の対応する部分に落ちるように、すべてのプロパティを持つ山の斜面を作成する必要があります。

自動生成プログラム

では、これをどのように行うのでしょうか？ 画像などのデジタルデータの場合、一気にこれを行う方法を誰も知りません。 これは反復プロセスです。 最初にいくつかのワークピースがあり、それから絶えず形状を変えて、必要なものを作ります。

このプロセスの多くのものは私たちから隠されています。 私はこれについて、セルオートマトンやチューリングマシンなどの個別のプログラムにどのように関係するのかを考えました 。 そして、ここで非常に興味深い結果が得られると確信しています。 しかし、私は理解していませんでした-しかし、どのように正確に？



有限の実数のパラメータを持つシステムの場合、計算に基づく逆伝播と呼ばれる優れた方法があります。 実際、これは非常に単純な方法の変種です。勾配継承法では、導関数を計算してから、システムが目的の動作を持つようにパラメーターを変更する方法を決定します。

それでは、どのタイプのシステムを使用する必要がありますか？ やや意外ですが、主なオプションはニューラルネットワークです。 この名前は、脳と何か生物についての考えを呼び起こします。 しかし、私たちの場合、ニューラルネットワークは、連続的なパラメーターと離散的なしきい値を持つ多くの引数の関数のいくつかの構成で構成される正式なコンピューティングシステムです。

このようなニューラルネットワークを使用していくつかの興味深いタスクを実行するのは簡単ですか？ 言うのは難しい、本当に。 少なくとも過去20年間、ニューラルネットワークは他の簡単な方法で実装できることしかできないと信じてきました。

しかし、数年前にすべてが変わり始めました。 そして今、例えば、画像認識などのいくつかの応用問題を解決するためのニューラルネットワークの他の成功した使用についてしばしば聞くことができます。

これはどのように起こりましたか？ コンピューター（特にGPUの線形代数）は、セルラオートマトンを含むさまざまなアルゴリズムトリックに対処するのに十分高速になりました-数百万のニューロンでニューラルネットワークを作成することが可能になりました（そして今、これらは多くのレベルを持つディープニューラルネットワークです） 。 そして、これらすべてが多くの異なる新しいアプリケーションを生み出しました。

なぜ今ですか？

人工ニューロンの数が脳の対応する部分のニューロンの数に匹敵するようになったときにこれが起こったのは偶然ではないと思います。

そして、ポイントは量だけが何かを意味するということではありません。 むしろ、画像認識など、人間の脳が解決するタスクを解決する場合、適切な規模のシステムが必要であることは驚くことではありません。

人々は何千もの非常に異なるオブジェクトを簡単に認識することができます-なんとかして表現できる言語の名詞と同数です。 他の動物は、はるかに少ないオブジェクトを区別します。 しかし、人間が行う方法で画像を認識し、それらを人間の言語の単語に効果的にマッピングしようとすると、問題の規模全体に遭遇します。 それを解決する鍵は、人間の脳の規模のニューラルネットワークです。

間違いなく、計算ネットワークと生物学的ニューラルネットワークには違いがありますが、ネットワークをトレーニングした後、画像から結果を取得するプロセスは非常に似ています。 しかし、計算ニューラルネットワークのトレーニングに使用される方法は、生物学的ネットワークで使用されるはずの方法とは大きく異なります。

ただし、 ImageIdentifyを開発するとき、その動作が生物学的ニューラルネットワークにどれほど似ているかに本当に驚きました。 まず、トレーニング用の画像の数-数千万-は、人々が人生の最初の数年で遭遇するオブジェクトの数に匹敵します。

帽子しか見えない

トレーニングには、生物学的ニューラルネットワークで発生する機能と非常によく似た機能もありました。 たとえば、どういうわけか、トレーニングセットに人々の顔の画像を配置しないことでミスを犯しました。 そして、 インディ・ジョーンズが写っている写真を見せたとき、システムはここに顔があることを全く理解せず、帽子が写真の中にあることを裏切りました。 おそらくこれは驚くことではありませんが、生涯ずっと縦縞しか見ていなかった子猫の古典的な実験に似ているので、その後は横縞を見ることができませんでした。



おそらく、脳と同様に、 ImageIdentifyニューラルネットワークにはさまざまな種類のニューロンを含む多くの層があります（もちろん、一般的な構造はWolfram言語の記号表現で十分に説明されています）。

ネットワーク内で何が起こっているのかについて意味のあることを言うのは困難です。 しかし、上の層を見ると、システムを区別するいくつかの機能を強調できます。 そして、おそらく、それらは一次視覚野の実際のニューロンによって異なる特徴に非常に似ています。

私自身は、視覚的なテクスチャ認識（原色などのいくつかのテクスチャプリミティブの定義）に長い間興味を持っていますが、これから多くを理解できると思います。 また、ニューラルネットワークの深い層を調べて、そこで何が起こるかを見るのは非常に興味深いと思います。 オブジェクトのクラスを実際に記述するいくつかの概念を見つけることができました。これには、自然な人間の言語にはまだ言葉がないものも含まれます。

アリクイを失いました！

他の多くのWolfram言語プロジェクトと同様に、 ImageIdentifyを作成するとき、さまざまなことを行う必要がありました。 多数のトレーニング画像を使用します。 視覚化されたオブジェクトのオントロジーの開発とWolfram言語への転送。 物理学で使用される方法を使用したニューラルネットワークのダイナミクスの分析。 並列コードの綿密な最適化。 コンピューティングの世界のプログラムのための新しい科学のスタイルの研究でさえも。 そして、実際に役立つ機能をもたらす方法についての多くの主観的な意見。

当初、 ImageIdentifyが機能するかどうかはわかりませんでした。 そして最初の段階では、完全に誤って認識された画像の数は非常に多かった。 しかし、一歩一歩、 ImageIdentifyを使用することで、何か有用なものを取得することがすでに可能になった瞬間に徐々に近づきました。

しかし、未解決の問題はまだたくさんあります。 システムはいくつかのものにうまく対処しましたが、他のものでは真剣に滑りました。 何かを変更し、調整した後、「私たちは再びアリクイを失いました！」というスタイルの新しい失敗とメッセージの突風がありました（ ImageIdentifyがアリクイを正しく認識するために使用した画像が、そのような何らかの理由でどのように認識されたかについて）完全に異なるもの）。

ImageIdentifyのデバッグは非常に楽しいプロセスでした。 意味のある入力とは何ですか？ そして、意味のある出力は何ですか？ 選択方法-より一般的で信頼性の高い結果、またはより具体的だが信頼性の低い結果（ただの犬、または狩猟犬、またはビーグル）？

一見完全に狂ったように見えるものもありました。 ハーネスとして識別されたブタ。 石積みはモペットと定義されました。 しかし、良いニュースは常に理由を見つけたことです-例えば、いくつかの無関係なオブジェクトがトレーニング画像に絶えず現れるという事実（ ImageIdentifyが見た唯一の石積みはモペットが絶えず付けられているアジアのものでした）。

システムをテストするために、私はしばしば非標準の画像を試しました：



そして、私は自分が発見したことに感銘を受けました。 はい、 ImageIdentifyが間違っている可能性があります。 しかし、何らかの理由で、エラーは非常に理解しやすく、ある意味では人間のように見えました。 ImageIdentifyは、人が画像を認識する方法のいくつかの側面をコピーするのに非常に成功したようです。

抽象芸術はどうですか？ これは、マシンと人間の両方を対象としたロールシャックテストです。これは、ImageIdentifyの機能に関する非常に興味深いアイデアです。

自然に戻る

ImageIdentifyの作成などのプロジェクトは終わりません。 しかし、数か月前（Habrahabrの記事「 Stephen Wolfram：Frontiers of Computational Thinking（SXSW festivalからのレポート） 」を参照）、Wolfram Languageの予備バージョンをリリースしました。 そして今日、 新しいバージョンをリリースし、それをWolfram言語画像識別プロジェクトの基礎として使用しました。

特にサイトからのフィードバックと統計に焦点を当てて、 ImageIdentifyのトレーニングと開発を続けます。 自然言語を理解する分野のWolfram | Alphaに関しては、人々が積極的に使用しなければ、実際の進捗を評価したり、実際の画像を認識するための目標を決定したりする方法はありません。

Wolfram言語画像識別プロジェクトで遊ぶだけでも楽しいと言わざるを得ません。 長年の仕事を経て、人工知能が実際にどのように機能するかを見るのはエキサイティングです。 さらに、 ImageIdentifyが異常な画像や複雑な画像に応答しているのを見ると、推測したり冗談を言ったりしているような気がします。



もちろん、これらすべての裏には、非常に単純なループを備えた単なるコードがあります。 このコードは、たとえば80年代のニューラルネットワーク用に書いたものとほぼ同じです（もちろん、このコードは低レベルCではなくWolfram言語で記述されています）。

これは、アイデアの歴史における非常に珍しい例です。ニューラルネットワークは70年以上にわたって研究されてきましたが、それらへの関心は繰り返し薄れていきました。 私たちにとって、ニューラルネットワークは、画像認識などの人工知能の模範的なタスクを解決することに成功しました。 Warren McCullockやWalter Pittsなどの高度なニューラルネットワーク研究者は、 Wolfram Language Image Identification Projectのコアが何をしているのかと驚くでしょう。 彼らはおそらく70年もかかるだろうと驚くでしょう。

しかし、私にとってより重要なのは、 ImageIdentifyのようなものをWolfram言語の文字構造に組み込む方法です。 ImageIdentifyが行うことは、世代から世代へと人々が行うことです。 しかし、象徴的な言葉は、人類の知的成果のすべての荷物を提示する機会を与えてくれます。 そして、このすべてを計算することは非常に大規模なものになると思うので、この重要性を認識し始めたばかりです。

現時点では、 Wolfram Language Image Identification Projectをお楽しみください。 それは、人工知能の新しいフロンティアに到達するお祝いと考えてください。 心の安らぎと考えて、人工知能の未来についての考えを刺激します。 しかし、私の意見では、最も重要なことを忘れないでください。これは、現在およびここでWolfram言語で使用し、好きな場所にアップロードできるアプリケーション技術でもあります。

---

最後にWolfram Blogチームから...

Habrahabrに着くと、言葉の意味で彼らにうんざりし 、 ImageIdentifyはその理由を知っているようです。