講義のコース「スタートアップ」。 ピーター・ティエル。 スタンフォード2012。レッスン17

2012年の春、PayPalの創設者の1人であり、最初の投資家FaceBookであるPeter Thiel（ Peter Thiel ）は、スタンフォードでコース「Startup」を開催しました。 開始する前に、ティエルは次のように述べています。

講義の生徒の1人が記録を記録し投稿しました。 このhabratopika barfussでは、17番目のレッスン、 アストロパイロットエディターを翻訳しています。

レッスン1：未来への挑戦
レッスン2：再び1999年のように？
レッスン3：価値システム
レッスン4：最終ステップの利点
レッスン5：マフィアの力学
レッスン6：ティールの法則
レッスン7：お金に従う
レッスン8：アイデアの提示（ピッチ）
アクティビティ9：すべて準備ができていますが、それらは来ますか？
レッスン10：Web 2.0の後
レッスン11：秘密
アクティビティ12：戦争と平和
レッスン13：宝くじチケットではありません
レッスン14：世界観としてのエコロジー
レッスン15：バックトゥザフューチャー
レッスン16：自分を理解する
レッスン17：深い思考
レッスン18：創設者-犠牲者または神
レッスン19：停滞または特異性？

講義17-自分自身を理解する

ピーターの講義の後、3人のゲストが会話に参加しました。
1.スコットブラウン博士。 Vicariousの共同設立者、
2.事前知識のCEOであるEric Jonas氏、
3. PalantirのチーフエンジニアであるBob McGrew。

I. AIの素晴らしさ

表面的なレベルでは、私たちは人々を非常に多様な生き物であると考える傾向があります。 人々は、さまざまな能力、興味、特徴を幅広く持ち、異なる知性を持っています。 良い人もいれば悪い人もいます。 彼らは本当に違います。


それどころか、コンピューターは非常によく似ていると考える傾向があります。 すべてのコンピューターは、ある程度、同じブラックボックスです。 可能な人工知能の範囲を考える1つの方法は、標準のフレームワークを反転することです。 おそらくこれは数回の価値があります。 世界中の人々よりもはるかに多くの潜在的な異なるAIがあります。


インテリジェンスを記述および整理するには、多くの方法があります。 それらのすべてに人間の知性が含まれているわけではありません。
人々の心の広大な多様性を考慮しても、人間の心はおそらくすべての進化形態の知性に関する小さな点にすぎません。 存在しかできない宇宙のすべての惑星からのすべてのエイリアンを想像してください。


しかし、AIはすべての自然に可能な知性の形態よりもはるかに多様です。 AIは進化に限定されません。 人工的に作成された要素が含まれる場合があります。 進化は鳥と飛行を生み出しました。 しかし、チタンの翼を持つ超音速の鳥を作り出すことはできません。 生態系における自然選択の一方向のプロセスは、漸進的な変化を意味します。 AIはそれほど制限されていません。 したがって、潜在的なAIの範囲は、エイリアンインテリジェンスの範囲よりもさらに広く、その結果、人間のインテリジェンスの範囲を超えています。


したがって、AIは非常に大きなスペースであるため、通常の人間がそのサイズについて推測するのは、しばしば桁違いです。
AIについての大きな疑問の1つは、AIが実際にどれほどスマートになるかです。 マウス、バカ、アインシュタインの3点で知能の範囲を想像してください。 AIはどこでこの規模になりますか？


AIはアインシュタインよりも少し賢いと考える傾向があります。 しかし、先験的に、なぜスケールがこれ以上先へ進むことができないのかは明らかではありません。 私たちは測定可能なものに傾向があります。 しかし、なぜそれは超人的な知性よりも現実的で、測定が難しいほど賢いのでしょうか？ スーパーコンピューターがAIでどのように機能するかを理解するよりも、マウスが相対性理論を理解する方が簡単になる可能性があります。

AIの未来は、他の未来のように認識できません。 バイオテクノロジーの未来には、より機能的な人々が含まれますが、それでも認識可能な人間の形になります。 レトロフューチャーには、過去に既に試行され、再び復活したものが含まれます。 しかし、AIには根本的に異なり、実質的に理解できない能力があります。

あなたが見ることができる神秘的な神学的類似点のセットがあります。 神は、AIが私たちにとってどうなるかを、中世のためにすることができました。 AIは神になりますか？ 彼は全能になるのでしょうか？ 彼は私たちを愛していますか？ これらの質問には回答がない場合があります。 しかし、彼らはまだ尋ねる価値があります。

II。 わかりにくいAI

チューリングテストは、人間のようにインテリジェントに動作するマシンを構築できるかどうかを示す、長年の古典的なテストです。 それは知性によって制御される人間の行動のその部分に焦点を当てています。 最近、この一般的な問題は、インテリジェントなコンピューターの面から共感的なコンピューターの面に移りました。 どうやら、今日の人々はコンピュータインテリジェンスではなく、コンピュータが私たちの感情を理解できるかどうかにより興味を持っています。 彼らが古典的な意味でどれほど知的であるかは問題ではありません。コンピューターの場合、人間の目の動きが感情的な原因となるエージェントでなければ、何らかの意味で私たちの下に立つでしょう。


テクノロジーの歴史は、基本的にテクノロジーに取って代わる人々の物語です。 プラウ、印刷機、ジンニングマシン-これらすべてがビジネスから人々を排除しました。 より効率的にビジネスを行うために機械が発明されました。 ただし、人を交換するのが悪い場合は、機械が良いという反対の考慮事項があります。 ここでの根本的な問題は、AIが本当に人間に取って代わるかどうかです。 代替の効果はあいまいで、ほとんど政治的な問題であり、将来のAIと密接に関連しているようです。

2つの基本的なパラダイムがあります。 Ludditeのパラダイムでは、車は悪いと言うので、車を破壊する前に車を破壊する必要があります。 これは、繊維労働者が綿紡績機を破壊し、綿加工産業を占領しないようにする方法に似ています。 対照的に、リカードのパラダイムは、技術は基本的な意味での祝福であると主張しています。 これは経済学者のデイビッド・リカードの貿易予想である。テクノロジーは人々に取って代わるが、より大きな成果のために人々を解放する。


リカルドの貿易理論に基づいて、中国がアメリカで製造できるよりも車を安く製造できるなら、中国で車を買うのは良いことだと主張することができます。 はい、デトロイトの人々は仕事を失うでしょう。 しかし、彼らは再訓練することができます。 また、局所的な摂動にもかかわらず、合計値を最大化できます。


上記のグラフは基本的な理論を反映しています。 取引を行わないと、パフォーマンスが低下します。 生産と専門化を組み合わせることで、境界を広げることができます。 大きな価値が生まれます。 この取引の参照フレームは、テクノロジーを見る1つの方法です。 紡績工場の労働者の中には職を失う人もいますが、Tシャツの工場価格は少し下がります。 このように、別の仕事を見つけた労働者は現在、より効率的に何かをしており、同じお金でより多くの衣服を買う余裕があります。

問題は、AIが取引対象として残るかどうかです。 それは純粋なリカードでしょう。 自然な分業があります。 人々はいくつかのことが得意です。 コンピューターは他の人が得意です。 それらは互いに大きく異なるため、予想されるトレーディングのメリットは高いです。 したがって、彼らはこれらの利益を交換して実現します。 このシナリオでは、AIは人間の代わりではなく、むしろ補完的なものです。

ただし、それはすべて利益の相対的な大きさに依存します。 AIが人間の知能よりわずかに優れている場合、上記のシナリオが実現されます。 しかし、AIの方がはるかに優れていると判明した場合、状況は異なる可能性があります。 もし彼がどんな分野の人よりも3,000倍以上できるとしたら？ AIが私たちとまったく取引するのは理にかなっていますか？ 結局のところ、人々はネズミやサルと取引しません。 したがって、リカードの理論は強力な経済的仮定ですが、極端な場合には、ルッダイトのパラダイムを支持する議論があります。


状況をコントロールの闘争として再定式化できます。 人々はどのくらい宇宙をコントロールしていますか？ AIが強力になると、より多くの制御が可能になります。 しかしその後、AIは変曲点に達し、そこで超人的になり、完全に制御を失います。 これは、人々が終わりのない世界をより制御できるようにするほとんどの技術との質的な違いです。 ほとんどのテクノロジーには変曲点はありません。 そのため、コンピューターが制御を提供し、未知のものを克服できる限り、行き過ぎる可能性があります。 クラウドにスーパーコンピューターを作成し、それ自体をZeusと呼び、人々に稲妻を放ち始めます。

III。 AI機能

偉大さと不可解性は興味深い質問です。 しかし、それが可能かどうか、そしてAIの助けを借りてどのように資金を調達することができるかという問題はさらに興味深いものになります。 それでは、AIによって私たちに与えられる機会はどれほど素晴らしいのでしょうか？

A. AIには早すぎますか？

クラスで話したことはすべて重要なままです。 ここでは、タイミングの問題が特に重要です。 今ではAIにとってはまだ非常に早いかもしれません。 正当な引数が必要です。 多くの場合、将来のプロジェクトが失敗することを知っています。 70年代の超音速飛行機は失敗しました。彼らはうるさすぎて、人々は彼らについて不平を言いました。 90年代および1999年のスマートフォンのiPadなどのハンドヘルドは故障しました。 シリはおそらくまだ初期の鳥です。 したがって、AIの時代が到来したかどうかはまだ非常に不明です。

しかし、AIをバイオテクノロジーなどと比較することで、AIについて議論することができます。 前のレッスンで説明したAIやバイオテクノロジー2.0のカテゴリのことを行う機会があった場合、従来の見解では、バイオテクノロジーが正しい選択であることがわかります。 おそらく、バイオ情報革命はすでに人々に影響を及ぼし始めているか、近い将来に始まり、AIの実際の応用使用ははるかに遠いでしょう。 しかし、伝統的な見方が常に正しいとは限りません。

B.全会一致と懐疑論

先週、サンタクララで「The Top 5 Venture Investors、10 Technology Trends」（トップ5 VC、10トレンド）というイベントが開催されました。 各投資家は、今後5年間、テクノロジーについて2つの予測を行いました。 聴衆は、各予測に同意した場合に投票しました。 私の予測の1つは、生物学が情報科学に変わることでした。 観客は投票しました：緑の海。 100％は予測に同意しました。 単一の異議ではない。 おそらく緊張するはずです。 大衆の一致は非常に混乱しやすい。 おそらく、「情報科学としてのバイオテクノロジー」という論文についてもっと強く考える価値があるでしょう。

人々が悪いと思った唯一のアイデアは、すべての車が電気になるということでした。 聴衆の92％がこれに反対票を投じました。 電気自動車に偏る理由はたくさんあります。 しかし、今では理由が1つ少なくなっています。

議論されたAIに最も近い質問は、ムーアの法則が引き続き適用されるかどうかでした。 聴衆はこれについて50/50を分けました。 動作し続ける場合、つまり18か月ごとに2倍以上になる場合は、今後数年でAIのようなものが得られるようです。 同時に、ほとんどの人は、AIはバイオテクノロジー2.0よりもはるかに私たちから遠いものだと考えています。

C.（非表示）制限

バイオテクノロジーとAIを比較する1つの方法は、それぞれに深刻な（そしておそらく隠されている）限界があるかどうかを考えることです。 バイオテクノロジー革命の陰謀：私たちはあらゆる種類の病気を覆し、治すつもりです。そのため、あなたがxの瞬間まで生きるなら、あなたは永遠に生きることができます。 これは良い話です。 しかし、隠れた障壁、落とし穴がある可能性が非常に高いです。 たとえば、人体のさまざまなシステムが相互に作用して平衡を達成する可能性があります。 テロメラーゼは、細胞が無制限に分裂するのを助けます。 これは重要です。なぜなら、細胞が分裂しなければ、成長を止めて老化し始めるからです。 したがって、推論の最初の行は、赤ワインを飲み、テロメラーゼを保存するために可能なすべてのことをする必要があるということです。


問題は、無制限の細胞分裂がどこかの時点で癌のように見え始めることです。 したがって、加齢と癌が互いに排他的に影響する可能性があります。 人々が老化しないなら、彼らは癌でより早く死ぬでしょう。 しかし、テロメラーゼをより早くオフにすると、より早く老化するだけです。 1つの問題を排除すると、別の問題が発生します。 正しいバランスがどこにあるのか、これらの障害を完全に克服できるのか、本当に存在するのかは明らかではありません。

AIの世界で最もありそうな障壁の候補は、コードの複雑さです。 新しいコード行を作成すると、ソフトウェアが複雑になりすぎるという制限があります。 ある時点を過ぎると、従う必要のあることが多くなり、何が起こっているのか誰も理解できなくなります。 デバッグが困難になるか、完全に不可能になります。 このようなことは、数十年のうちにMicrosoft Windowsについて語ることができます。 彼女はエレガントでした。 おそらく、それは少し改善されるか、すでに改善されています。 ただし、重要な隠れた障壁が存在する場合があります。 理論的には、コード行を追加して物事を改善します。 しかし、彼らはそれを悪化させることができるだけです。


指数関数的希望と漸近的現実の間の基本的な闘争。 楽観的な見た目は指数曲線です。 私たちは彼女のために話すことができますが、彼女は未知のようです。 問題は、漸近線が有効になる時期と、それが来るかどうかです。


そして、AIバージョン：

D. AIがリード

バイオテクノロジーとAIの新規作成には多くの類似点があります。 ただし、AIに注目することには3つの明確な利点があります。
1.エンジニアリングの自由
2.規制および規制からの自由
3.調査中（トレンドに反する行動）

工学の自由は、バイオテクノロジーとAIが根本的に非常に異なるという事実に関連しています。 生物学は自然の中で進化しました。 時々、人々は生物学的プロセスを図面の形で提示します。 しかし、それらをレシピの形で提示する方がより正確です。 生物学は一連の指示です。 食べ物と水を加えて9ヶ月間焼く。 そして、そのような構造はシリーズ全体です。 パイがうまくいかなかった場合は、料理の本を見るだけで修正するのは非常に困難です。


これは完全なアナロジーではありません。 しかし、全体的に、AIはより図面に似ています。 プリセットベースのバイオテクノロジーとは異なり、AIはステップの正確なシーケンスにあまり依存しません。 さまざまな組み合わせで物事をレイアウトするためのエンジニアリングの自由があります。 生物学的レシピを変更するプロセスでは、ゼロから図面を作成する場合よりもはるかに自由度が低くなります。


法律の観点から、根本的な違いは、バイオテクノロジーが非常に厳しく規制されているという事実にあります。 新薬の開発には10年かかり、13億ドルの費用がかかります。 この作業には多くの注意事項があります。 FDA（ 食品医薬品局 ）は4,000人を雇用しています。

対照的に、AIは規制されていない分野です。 ソフトウェアの準備ができたらすぐに開始できます。 100万ドル、または数百万ドルかかります。 しかし、10億ではありません。 あなたは地下で働くことができます。 地下室でエボラや天然poを合成しようとすると、さまざまなトラブルに巻き込まれる可能性があります。 しかし、地下室のAIを切り刻むだけなら、それで構いません。 誰もあなたのために来ません。 たぶん事実は、官僚や政治家は想像力のないフリークだということです。 たぶん議員は単にAIに興味がないのでしょう。 いずれにせよ、理由が何であれ、あなたは自由に働くことができます。

さらに、バイオテクノロジーに関連するAIは未開拓です。 2x2マトリックスを想像してください。 1つの軸については、研究が不足しています-高度な調査です。 もう一方の軸では、コンセンサスは矛盾です。 Biotech 2.0は、高度な研究とコンセンサスの四分円に分類されますが、これはもちろん最悪です。 「これは次の大きなブレークスルーです」とサンタクララの聴衆は100％確信していました。 それどころか、AIは未踏探査と矛盾の四分円に分類されます。 人々は何十年もの間AIについて語っています。 しかし、人工知能は決して起こりませんでした。 したがって、多くは彼の費用で悲観論者になり、焦点を変えました。 これは、AIに集中したい人にとって非常に良いことです。


PayPalは、Luke Nosekの主張のもと、歴史上初めて、従業員福利厚生に極低温を含めた会社でした。 私たちはタッパーウェア式のパーティーを開催しました。そこでは、極低温企業の代表が交代で、人々にニューロフリージングに5万ドル、全身をフリーズに120,000ドルでサインアップするよう説得しました。 すべてはうまくいきましたが、マトリックスプリンターを機能させることができなかったため、条件を印刷できませんでした。 ですから、おそらく、バイオテクノロジーが本来の機能を果たすためには、AIを前面に押し出す必要があります。

IV。 サドルAI

今日、AIに関連することを扱う3つの異なる企業の人々が私たちの会話に加わりました。 そのうちの2つ-Vicarious and Prior Knowledge-は初期段階にあります。 第三に、パランティール、古い。

Vicariousは、人間の脳の基本原理を使用するアルゴリズムを開発して、AIを構築しようとしています。 彼らは、高レベルの概念は世界とのやり取りのありふれた経験に由来するものであるため、AIを作成するには、まず人間のセンサーがどのように機能するかについての説明が必要です。 したがって、彼らの最初のステップは、人が行う方法で画像を理解するビジョンシステムを構築することです。 これだけでも、画像検索、ロボット工学、医療診断など、さまざまな商用アプリケーションがありますが、長期的な計画は、ビジョンを超えて、全体としてインテリジェントなマシンを作成することです。


事前知識はAIを構築するために異なるアプローチを取ります。 彼らの目標は、脳機能のエミュレーションの程度を低くし、より大きな範囲で、大量のデータを処理するさまざまな方法の開発です。 彼らは一連のベイジアン確率論的アプローチを適用して、大規模なデータセットのパターン認識と因果関係を調べます。 ある意味では、これは脳をエミュレートすることの反対です。 インテリジェントマシンは、ほとんどの人が日常生活で物事を分析する方法とは大きく異なる高度な数学アルゴリズムを使用して、大量のデータを処理する必要があります。

Palantirの大きな洞察は、テロリストを阻止する最善の方法は、過去に何をしたかを見て、将来何をするかを予測する際に回帰分析を行わないことだということです。 ゲーム理論の側面からアプローチすることをお勧めします。 Palantirの仕事は人工知能にはあまり適合せず、拡張知能に関するものです。 リカードの取引パラダイムの利点と非常に明確に適合します。 重要なのは、人間とコンピューターの適切なバランスを見つけることです。 これは、PayPalの不正防止テクノロジーに非常に似ています。 何百万もの取引が行われたため、人々は詐欺の問題を解決できませんでした。 詐欺のパターンが変化しているため、コンピューターはそれを解決できませんでした。 しかし、コンピューターが複雑な計算を行い、人が最終的な分析をAIの弱い形式として行う場合、これはそのような場合に最適であることがわかります。


それでは、医師に相談しましょう。 VicariousのScott D. Brown、Priant KnowledgeのEric Jonas、およびPalantirのBob McGrew。

V.見通し

Peter Thiel ：明白な質問は、Vicarious and Prior Knowledgeに対するものです。10〜15年ではなく、今すぐ強力なAIを実行する必要があるのはなぜですか。

エリック・ジョナス ：伝統的に、私たちは強力なAIの本当の必要性を経験していません。 今彼女が登場しました。 現在、これまでにないほど多くの情報が得られています。 そのため、まず、このすべてのデータには何かをする必要があります。 第二に、AWSがあれば、テラバイトのデータを噛むために自分でサーバーファームを構築する必要がなくなります。 したがって、必要性とコンピューティングの可能性を組み合わせた影響により、ベイジアンのデータ処理が意味を持つと考えられます。

スコット・ブラウン ：現代のトレンドが続けば、14年間、世界最速のスーパーコンピューターは、すべての生きている人々のすべてのニューロンを合わせたよりも多くの操作を1秒あたりに行うことができます。 この力で何をしますか？ 実際、私たちは知りません。 したがって、実行するアルゴリズムを探して、今後13年間を費やす必要があります。 月サイズのスーパーコンピューターだけでは何も得られません。 彼が何もしなければ、彼は賢くありえない。 したがって、タイミングに関する質問に対する答えの1つは、すべてがどこに向かっているのかを確認するだけで、それに取り組む時間があるということです。 計算能力の必然性は強力なドライバーです。 さらに、強力なAIに取り組んでいる人はほとんどいません。 ほとんどの場合、科学者はそうではありません。彼らの動機付けの構造はかなり奇妙だからです。 彼らには、徐々に改善することだけを奨励するひねくれた動機があります。 そして、ほとんどの民間企業は、今お金を稼ぎたいので、それに取り組みません。 強力なAIを使用して10年間の「マンハッタンプロジェクト」を行いたい人は多くありません。唯一の動機は、今日とコンピューターが考えられる瞬間との間の測定可能なマイルストーンです。

Peter Thiel ：なぜ脳エミュレーションが正しいアプローチだと思いますか？

スコット・ブラウン ：明確にするために、私たちは実際にエミュレーションに従事していません。 飛行機を作る場合、羽で占いのピースを作っても成功しません。 あなたはむしろ飛行の原理を見ます。 翼、空力、揚力などを研究し、これらの原則を反映した何かを構築します。 人間の脳の原理も同様に見ています。 階層、まれな画像などがあります。 -サーチスペースの構造を構成するすべて。 そして、これらの要素を組み込んだシステムを構築しています。

Peter Thiel ：戦いを始めようとせずに、ボブに尋ねます：強化されたインテリジェンスが強力なAIよりも正しいのはなぜですか？

Bob McGrew ：AIでの成功のほとんどは、チューリングテストに合格したものではありませんでした。 それらは特定の問題の解決策でした。 たとえば、自動運転車は本当にクールです。 しかし、彼は一般的に知性的ではありません。 たとえば、機械翻訳や画像処理におけるその他の成功には、人間がますます複雑化する世界のモデルを導入し、その後のコンピューターの最適化を行う能力が含まれます。 言い換えれば、すべての大きな成功は取引の利益から得られたということです。 人はコンピューターよりも何かにおいて優れています。逆もまた同様です。

拡張インテリジェンスは、概念の理解に焦点を当てているため機能します。 問題のモデルがない場合は、その概念を開発する必要があります。 コンピューターはこれを非常に貧弱にしています。 テロリストを探しているだけのAIを構築するのは、ひどい考えです。 テロリストのように考えるマシンを作成する必要があります。 おそらくまだ20歳くらいですが、コンピューターはデータ処理とパターンマッチングが得意です。 そして、人々は概念的な概念を開発するのが得意です。 これらをまとめると、拡張されたインテリジェンスアプローチが得られます。このアプローチでは、トレーディングのメリットにより、垂直方向の後に垂直方向に問題を解決できます。

Peter Thiel ：強力なAIの期間についてどう思いますか？ 私たちが彼から5-7歳の場合-これは一つのことです。 しかし、15〜20年はもう1年です。

Eric Jonas ：これは陰湿な質問です。 企業と研究イベントのバランスを見つけるのは必ずしも簡単ではありません。 しかし、私たちの目標は、人々が見つけることができないデータの中にあるものを見つけることができるマシンを作成することです。 これは5年の目標です。 これらのベイジアンシステムを構築して、それらが連携して動作するようにすれば、共同のメリットになります。 Linuxカーネルには、3000万行のコードが含まれています。 しかし、人々はこれらの3000万行を掘り下げることなくAndroidアプリを作成できます。 ですから、私たちは、今やっていることを人々が15年後に取り組む大きな問題を解決するために使用できるという自信を持つことに焦点を当てています。

Peter Thiel ：AIは、ほとんどのシリコンバレー企業がWebアプリやモバイルアプリで行っていることとは大きく異なります。 エンジニアはこれらのスタートアップを目指して努力していますが、採用に関しては何をしていますか？

スコット・ブラウン ：私たちは人々に彼らにとって何が重要か尋ねます。 多くの人々は歴史に印をつけたいと思っています。 彼らはこれをどのように行うのが最善か分からないかもしれませんが、それを望んでいます。 そのため、強力なAIを構築することよりも重要なことを行うことは困難であることを強調します。 それから、もし彼らが興味を持っているのなら、彼らがどのように強力なAIを想像するかを尋ねます。 この何かをAIへの道のポイントとするために何かが合格する必要がある増分テストは何ですか？ 彼らはいくつかのテストをもたらします。 そして、それらの基準をロードマップと比較し、すでに達成したことを確認します。 この瞬間から、Vicariousは、インテリジェントマシンの作成に真剣に取り組む必要がある場所であることが明らかになります。

聴衆からの質問 ：成功したとしても、AIを作成した後はどうなりますか？ 競争に対するあなたの保護は何ですか？

スコット・ブラウン ：プロセス自体の一部です。 ライト兄弟は、彼らが突然推論した秘密の公式ではなく、飛行機の建設を助けました。 それはきちんとした制御された実験への厳格な順守でした。 彼らは小さく始め、kitを作りました。 その力学を計算しました。 その後、彼らは非モーターグライダーに切り替えました。 そして、制御メカニズムを理解するとすぐに、彼らは進みました。 プロセス全体の結果として、彼らは飛ぶことができるものを持っていました。 そのため、成功の鍵は、すべてのピースがすべての段階で必要な理由、そして最終的にそれらがどのように適合するかを理解することです。 品質は結果の背後に隠されたプロセスによって生成されるため、結果を繰り返し再現することは困難です。 Wright Brothersのカイトまたはビジョンシステムをコピーしても、これを飛行機や思考コンピューターに変えるために必要な実験の種類はわかりません。

Peter Thiel ：プライバシーの問題に移りましょう。 他の人はこれに取り組んでいますか？ もしそうなら、たくさんありますか、そうでないなら、これについてどうやって知りましたか？

Eric Jonas ：私たちが使用するアルゴリズムのセットとクラスはかなり明確に定義されているので、競争力のある技術的な展望を十分に理解していると思います。 私たちの仕事をするスキルと熱意を持っている人の数は、およそ200人です。 しかし、彼らは私たちとまったく同じ問題を同じ方法で解決しますか？ これは非常にまれです。

もちろん、パイオニアにはいくつかの利点があり、AIのコンテキストで知的財産が保護されます。 しかし、20年先を見据えて、米国の知的財産法が発展し、関与するときに、他の国が米国の知的財産法を支持することを確信する理由はありません。 何かが可能だと気づいたらすぐに-誰かがAIに大きなブレークスルーをもたらすとすぐに、検索スペースが大幅に狭まります。 競争は人生の事実になります。 このプロセスに関するスコットの見解は良いものです。 問題は、他の誰よりも優れたシステムを構築し、それらをよりよく理解すれば、先を行くことができるということです。

Peter Thiel ：競合回避のトピックを開発しましょう。 パロアルトでピッツェリアを開くのは、たとえあなたが最初であっても、おそらく良い考えではありません。 他の人が来て、混雑しすぎます。 それでは、どの戦略を選択するのでしょうか？

スコット・ブラウン ：ネットワーク効果は大きな利点を提供できます。 素晴らしい画像認識ソフトウェアを開発したとしましょう。 あなたが最初で最高の場合、あなたは認識の世界でAWSになることができます。 あなたを保護するフィードバックループを作成します。 誰もがあなたのシステムに座って、誰もがシステムに座っているので、それは良くなります。

Eric Jonas ：AWSには競合他社がありますが、ほとんどの場合、ノイズレベルよりも高くありません。 AWSは、革新においてまだ一歩先を行っています。 基本的な考え方は、持続的なリーダーシップが自立したときに逃げることです。 データとアルゴリズムを使用して同じゲームをプレイします。

スコット・ブラウン ：他の人があなたをコピーするだけであなたは良くなります。 優れたビジョンシステムを構築したとします。 人々があなたのV1をコピーする頃には、すでにあなたのアルゴリズムを聴覚と言語システムに適用しています。 そして、あなたは彼らが持っているよりも多くのデータを持っているだけでなく、改善されたV1にも新しいものをもたらすことに成功しました。

Peter Thiel ：AIの実存的な質問に切り替えます。このテクノロジーはどれほど危険ですか？

Eric Jonas ：テクノロジーの危険性を心配する時間は、私たちが利益を上げるときよりもずっと少ないです。 したがって、私は私の子供にジョン・コナー・ジョナスと名前を付けるつもりです...

真剣に、私たちは計算の複雑さがAIの能力を制限することを知っています。 これは興味深い質問です。 Robin Hansonによると、ボックス内の人をエミュレートできるとします。 これはどのようなユニークな脅威をもたらしますか？ このインテリジェンスは人々の幸福を心配しないため、潜在的に有害です。 ただし、重大な制限がある場合があります。 ベイズのアプローチは、ある意味で、不確実な状況で推論する良い方法です。 私はどの程度興奮していますか。次の世代についてはもっと心配していますが、今はそうではありません。

スコット・ブラウン ：私たちは、知性を道徳的直観に直交する何かとして話します。 AIは正確な予測を行うことができますが、何が良いか、何が悪いかを判断できません。 彼は事実について話すオラクルであるかもしれません。 この場合、他の技術と同じです。 それを使用する人が良いか悪いかと同じくらい良いか悪い最初は中立的なツール。 私たちは倫理について多くのことを考えていますが、一般的なコンピューター哲学者がそれについて書いている方法ではありません。 人々はしばしば知性の存在と意志の存在を混同します。 意志のない知性は単なる情報です。

Peter Thiel ：それで、あなたとあなたの両方は、基本的にこれがすべてうまくいくと確信しています。

スコット・ブラウン ：はい、でも夢のような意味ではありません。 私たちは、爆弾を作ったり、スーパーウイルスを作成したりするのと同じ方法で作業を処理する必要があります。 同時に、Skynetのようなタフなスクリプトが可能だとは思いません。 一部の分野でいくつかのブレークスルーを達成し、コミュニティが参加し、プロセスが繰り返されます。

Eric Jonas ：そして、私たちが作成するAIがより良いAIを作成できると信じる理由はありません。 たぶんそうでしょう。 しかし、必ずしもそうではありません。 一般的に、これらは興味深い質問です。 しかし、時間をかけすぎている人は、実際にAIを作成する人にならないかもしれません。

Bob McGrew ：パランティールでは、強力なAIを構築しようとせずに感覚データに関する拡張インテリジェンスを作成するため、テクノロジーの危険性を少し違った視点から見ています。 もちろん、コンピューターは完全に人工的にインテリジェントでなくても危険です。 したがって、私たちは人権および私有財産の弁護士と協力して働き、彼らは私たちが安全な枠組みで働くのを助けます。 適切なバランスを見つけることが非常に重要です。

聴衆からの質問 ：脳を真似するのに十分なほど脳について十分に知っていますか？

エリック・ジョナス ：驚くべきことに、私たちは脳の仕組みについてほとんど理解していません。 人々が問題を解決する方法を知っています。 人々は、少量のデータからパターンを直感的に見つけるのが非常に得意です。 このプロセスは不合理に見える場合もありますが、実際には非常に合理的です。 しかし、神経系の車輪と歯車についてはあまり知りません。 さまざまな機能が実装されていることはわかっていますが、その方法はわかりません。 したがって、人々は異なるアプローチを使用します。 独自のアプローチがあり、おそらく、エミュレーション戦略を使用するのに十分なことがわかっています。 50/50のチャンスがあります。

スコット・ブラウン ：私が言ったように、エミュレーションは間違ったアプローチだと信じています。 ライト兄弟は飛行機を作るのに鳥の生理学の詳細なモデルを必要としませんでした。 代わりに、私たちは次のことを自問します：自然は脳を作成するためにどのような統計的不規則性を使用しますか？ 私を見ると、私の体を構成するピクセルが視界内でランダムに動いていないことがわかります。 それらは時間ごとにグループ化されます。 また、私が顔を向けると、目と鼻がそれに応じて動く階層もあります。 この空間的および時間的階層が感覚情報にどのように変化するかを見ると、脳でどのような計算を見つけることができるかについての良い手がかりを得ることができます。 そのため、脳を見ると、世界に関するデータを反映する時空間階層が表示されます。 これらのアイデアを厳密な数学的順序で組み合わせ、現実世界に適用されるようにテストします。これがAIの作成方法です。 したがって、神経生理学は大いに役立ちますが、一般的な意味でのみです。

聴衆からの質問 ：視覚システムを聴覚、言語などのシステムに移行するのはどれくらい簡単ですか？ ある垂直の問題を解決し、そのソリューションを他の垂直の問題に適用するのが非常に簡単だったら、誰かがすでにこれをしていませんか？ そのような移行のコストが低いと信じる理由はありますか？

スコット・ブラウン ：これに共通の皮質輪郭があるかどうかに依存します。 着信する視覚情報と音声情報が単一の回路で処理されるという事実には、優れた実験的サポートがあります。 フェレットの脳における最近の実験では、光学情報の神経チャネルは、聴覚情報を処理する脳の領域に再接続されました。 フェレットは正常に見ることができました。 「インテリジェンス」と呼ばれる一般的なアルゴリズムの論文をサポートする同様の結果を実証する多くの実験があります。 もちろん、さまざまなタイプの感覚データに対して独自の設定を行う必要がありますが、これらは1つのマスターアルゴリズムの設定であり、根本的に異なるメカニズムではないと考えています。

Eric Jonas ：私の共同設立者Beauは、MITのフェレットと一緒にこの研究室にいました。 データの時系列における皮質ゾーンとそれに対応するパターンは、非常に均質であるようです。 世界を理解するのは、完璧なアルゴリズムを持っているからではなく、観察された膨大な情報が私たちを助けてくれるからです。 おそらく私たち全員にとっての包括的な目標は、それを利用するために世界に関するすべての知識を獲得することです。 いくつかのものが他のカテゴリに再配置されると仮定するのは合理的です。 製品はさまざまです。 明らかに、ビデオカメラを作成しても、高度な言語療法には役立ちません。 しかし、おそらく、このアプローチでは、多くの部分的な偶然の一致があります。

Peter Thiel ：開発中のテクノロジーを解決するために問題が必要になるのではないかという懸念はありますか？ AIは、現時点ではアプリケーションを持たない科学プロジェクトのようなものであると懸念しています。

Eric Jonas ：データをよりよく理解することで、多くのアプリケーション機能が得られると考えています。 技術の中核を構築することと製品に集中することの間で適切なバランスを見つけることは、常にスタートアップチームが解決すべき問題です。 もちろん、特定の問題分野を特定し、特定のアプリケーションで製品を作成するというビジネス要件に従う必要があります。 重要なのは、取締役会および投資家と協力して、長期的なビジョンとその途中のさまざまな目標に取り組むことです。

Scott Brown ：AIをクラックしたかったため、Vicariousを設立しました。 私たちは、一歩一歩、誰かが本当のAIを作りたいと思ったのです。 これらのステップの多くは、それ自体がかなり商業的に重要であることがわかります。 少なくとも分割されていないオブジェクトを認識してください。 この点に到達しただけでも、これ自体が非常に価値があります。 これを製品のレベルに引き上げて続行できます。 したがって、問題は次のとおりです.15年で50/50の確率で勝利につながる明確な実験を行うために空のチェックを求めるのではなく、問題のビジョンを「売り」、最初のマイルストーンに発展するためにお金を集めることができますか？

Bob McGrew ：あなたは粘り強くなければなりません。 おそらく、これ以上の垂れ下がった果物は残っていません。 強力なAIが非常にハングアップするフルーツ（または達成不可能なほどハングアップするフルーツ）である場合、Parantirの拡張インテリジェンスは非常に到達可能なフルーツです。 ソルベントクライアントを獲得するまでに3年かかりました。

Peter Thiel ：ボブとパランティールへの質問です。 人々がデフォルトで傾向がある支配的なパラダイムは、100％人間または100％コンピューターです。 人々はそれらを敵対的と見なします。Palantirが提供する人間とコンピューターのコラボレーションパラダイムが優れているコンピューター機能の限界を押し広げることに焦点を当てている科学者やGoogleをどのように説得するつもりですか。

Bob McGrew：これを行う簡単な方法は、特定の問題について話すことです。ディープブルーは1997年にカスパロフを破りました。今日のコンピューターは、私たちよりも優れたチェスをプレイしています。いいねしかし、どのエンティティがチェスをよりよくしますか？これはコンピューターではないことがわかりました。コンピューターとペアになった優秀なプレイヤーは、実際には別々にプレイしている人や車を打ち負かします。実績：チェスAIは弱いです。しかし、人間とコンピューターの共生がチェスで優れている場合、他のコンテキストでも同じように使用できます。データ分析はまさにそのようなコンテキストです。そのため、コンピューター自体ができないこと、コンピューターなしではアナリストができないことをアナリストが行うのを支援するプログラムを作成します。

エリック・ジョナス：そしてAmazon Mechanical Turkを見てください。限られたフレームワーク内での知的タスクのクラウドソーシング-「スパムではあるがそうではない」などの単純なフィルタリングタスクでさえ-マシンと人間の間の境界線が急速にぼやけていることを示しています。

Bob McGrew：この意味で、CrowdflowerはPalantirの暗い双子です。彼らは、人々を使ってコンピューターを改善する方法に焦点を当てています。

聴衆からの質問：ソフトウェアを作成する際にPalantirはどのような原則を念頭に置いていますか？

Bob McGrew：重要なアイデアはありません。いくつかの異なる業種があります。それぞれについて、アナリストが何をする必要があるかを見ていきます。アナリストを置き換える代わりに、私たちは彼らがそれほど得意ではないものを正確に尋ねます。ソフトウェアはどのように彼らの仕事をサポートできますか？原則として、これは大量のデータを処理し、テンプレートを識別して保存するソフトウェアの作成などを意味します。

聴衆からの質問：システムのトレーニングと機能の充実をどのようにバランスしますか？乳児は表情をよく理解していますが、算術を理解している乳児は一人もいません。

スコット・ブラウン：これは、どの知識をアルゴリズムに縫い込むべきか、そしてどの知識をアルゴリズムに習得するべきかを決定するために使用する違いです。特定のサプリメントが平均的な人に信じられると言うことができない場合、それを追加しません。

ピーター・ティエル：戦場でわずかな利点しか得られない豊富な活動の歴史がある場合、すべてが人々が考えるよりも少し複雑になる可能性があるという感覚があります。簡単な例は、がん戦争です。私たちは勝利に40年近づいており、おそらく勝利はかつてないほど遠くにあるでしょう。 80年代の人々は、AIはすぐそこにあると考えていました。満たされていない期待の長い物語があるようです。 AIが事実ではないことをどのようにして確認できますか？

Eric Jonas：一方では、これを行うことができます。これの簡単な証拠があります：人間レベルの知性を作成するために必要なのは、ビールのペアと避妊に対する不注意な態度です。一方、強力なAIの問題が解決されるかどうか、実際に解決される場合はいつになるかはわかりません。最善の策を講じていると思います。

Peter Thiel：それで、これは本質的に統計的な議論ですか？それは空港で荷物を待つようなものです。あなたのバッグがテープに現れる確率は毎分増加します。ある時点で手荷物が去るまで、確率はすぐに下がります。

エリック・ジョナス：誰もがAIにはたくさんの荷物があると考えています。 AIをベンチャーキャピタリストに販売するのはかなり難しい。これらはまさに、AIが実際よりもはるかに簡単に形成されると考えた人たちです。 1972年、MITで、少数の人々が1つの夏に集まってAIに対処すると考えました。もちろん、これは起こりませんでした。しかし、彼らがそれを行うことができたことにどれほど自信があるかは驚くべきことです。そして、彼らはPDP-10メインフレームで作業しました。すべてが非常に複雑であることがわかりました。したがって、小さな領域をすくい取ります。夏の間、人々が友達と集まってAIを作成できると思っていた時代は過ぎ去りました。

スコット・ブラウン：1900年代に手荷物の引数を飛行機に適用した場合、「人々は何百年もの間航空機を製造しようとしましたが、それでもできませんでした」と言います。空気より重い航空機は物理的に不可能だと主張する。

Eric Jonas：光の速さでの移動や平均余命の大幅な延長などとは異なり、少なくとも可能性の証拠があります。

聴衆からの質問：目標全般に重点を置いていますか、それとも道程に沿ったマイルストーンに焦点を合わせますか

エリック・ジョナス：常に両方である必要があります。 「信じられないほどのテクノロジーを作成する」、そして「それがそれを可能にする」というように。コントロールポイントが重要です。誰も知らないことを知っていることを自問し、これを達成するための計画を立ててください。 Box Aaron Levieが言うように、あなたは今あなたが今していることをする時が来た理由を常に説明できるはずです。適切なタイミングのないテクノロジーには費用はかかりませんが、逆の場合も同様です。

スコット・ブラウン：強力なステートメントには、強力な証拠も必要です。タイムマシンを販売している場合、誰かがあなたを信じる前に、一貫した進歩を示すことができなければなりません。投資家向けのデモが過去にブートを送信できるかもしれません。それは素晴らしいことです。このプロトタイプを示してから、投資家に、マシンがより重大な問題を解決できるようにするために必要なことを説明できます。

革新的なテクノロジーをインクリメンタルの反対として販売する場合、テクノロジーに精通している投資家を見つける方がはるかに良いことは注目に値します。 Trilogyが最初の投資ラウンドを引き上げようとしたとき、投資家は教授を招き、コンフィギュレーターの問題に対するアプローチを評価しました。 Trilogyの戦略は現状とはほど遠いものであり、教授は投資家にそれは決して機能しないと語った。この間違いは投資家に多大な犠牲をもたらしました。対立する知識が関係しているとき、投資家自身が物事について意見を述べることができれば、あなたにとってより良いでしょう。

ピーター・ティエル：シリコンバレーで最も長く燃え尽きたスタートアップは、おそらくザナドゥでした。彼は1963年から1992年まで、世界中のすべてのコンピューターを接続しようとしました。彼はお金を使い果たし、彼は死んだ。そして、翌年にNetscapeが登場し、インターネットを引き継ぎました。

それでも、おそらく、コロンブスと彼の新世界への旅についての外伝的な物語があります。世界は実際よりもはるかに小さく、彼らは中国に行くと誰もが信じていました。航海が長すぎて、中国が遅れをとろうとしていたとき、チームは引き返したかった。コロンバスは彼らに3日間反乱を延期するよう説得し、最終的に彼らは上陸した。

エリック・ジョナス：そしてそれは北米を歴史上最大の基準点にしている。

注 ：
PMで翻訳エラーとスペルをお願いします。翻訳Barfuss、エディタアストロピロット、それらのおかげ。