コンピュータの思考能力が私たち自身に近づく未来がすぐに見えてきています。 私たちは、これまで以上に強力な機械学習（ML）アルゴリズムが私たちの首を呼吸していると感じています。 今後数十年の急速な進歩は、スピーチと推論が可能な人間レベルの知性を持つ機械をもたらし、経済、政治、必然的にwarcraftへの無数の貢献をもたらします。 真の人工知能の誕生は、それがあるかどうかを含め、人類の未来に深く影響を与えるでしょう。
次の引用は、ポイントのケースを提供します：
“最後の偉大な人工知能の突破口が1940年代後半に到達した時から、世界中の科学者は、今日の人工知能プ「
」今でも、今日の知性の範囲内にとどまりながら、新しいAIプログラムが何ができるかをよりよく理解するための研究が進行中です。 現在プログラムされているほとんどのAIプログラムは、主に簡単な意思決定や比較的少量のデータに対する簡単な操作の実行に限定されています。”
これら二つの段落はGPT-2、私は昨年の夏に試した言語ボットによって書かれました。 有益なAIを促進するサンフランシスコに拠点を置くopenaiによって開発されたGPT–2は、一見ばかげたタスクを持つMLアルゴリズムです: いくつかの任意のスターターテキストを提示し、それは次の単語を予測する必要があります。 ネットワークは、人間の意味で散文を”理解する”ように教えられていません。 代わりに、トレーニングフェーズでは、シミュレートされたニューラルネットワークの内部接続を調整して、次の単語、その後の単語などを最適に予測します。 八百万のWebページで訓練された、その内臓は、シナプス、ニューロン間の接続点をエミュレート億以上の接続が含まれています。 あなたが読んでいる記事の最初のいくつかの文章を入力すると、アルゴリズムは、彼女が空想していた機械学習に関する入門講義の要点を思い出すための新入生の努力のように聞こえた2つの段落を吐き出しました。 出力には、すべての適切な単語やフレーズが含まれています—悪くない、本当に！ 同じテキストで二度目にプライミングされ、アルゴリズムは別の何かを思い付く。
そのようなボットの子孫は、インターネットの瘴気に追加されます”deepfake”製品のレビューやニュース記事の津波を放つでしょう。 リアルタイム戦略ゲームStarCraftをプレイしたり、テキストを翻訳したり、本や映画の個人的な推奨をしたり、画像やビデオの人々を認識したりするなど、これま
アルゴリズムが失われた時間を求めてMarcel Proustのように一貫した傑作を書くことができるようになるには、機械学習のさらなる進歩が必要ですが、コードは壁にあります。 コンピュータゲームのプレイ、翻訳、スピーチの初期の試みはすべて、明らかにスキルと磨きが欠けていたため、不器用で軽視しやすいことを思い出してくださ しかし、深いニューラルネットワークの発明とハイテク産業の大規模な計算インフラストラクチャでは、コンピュータは、その出力がもはやrisible登場するま 私たちは囲碁、チェス、ポーカーで見てきたように、今日のアルゴリズムは、最高の人間をすることができ、彼らが行うとき、私たちの最初の笑い声は驚きに 私たちはゲーテの魔術師の弟子のように、私たちが今制御することができない有用な霊を召喚しましたか？
人工意識？
専門家は、自然またはその他の知性を正確に構成するものについては同意しませんが、ほとんどの人は、遅かれ早かれ、コンピュータが専門用語で人工一般知能（AGI）と呼ばれるものを達成することを受け入れています。
機械知能に焦点を当てることは、まったく異なる質問をあいまいにします。 プログラム可能なコンピュータは今までに意識することができますか？
“意識”または”主観的な感覚”とは、ヌテラのおいしい味、感染した歯の鋭い刺し傷、退屈な時間の遅い経過、競争の直前の活力と不安感など、いずれかの経験 哲学者Thomas Nagelをチャネリングすると、システムはそのシステムであることのようなものがあれば意識していると言うことができます。
突然、あなたがちょうど失言を犯したこと、あなたが冗談として意味したことが侮辱として出くわしたことを認識する恥ずかしい気持ちを考 コンピュータは今までそのようなroiling感情を経験することができますか？ あなたが電話にいるとき、分後に分を待って、合成音声intones、”私たちはあなたを待たせて申し訳ありませんが、”顧客サービスの地獄であなたを維持しながら、ソフ
私たちの知性と私たちの経験は、超自然的なものではなく、私たちの脳の自然な因果力の影響ではないということはほとんど疑いがありません。
その前提は、人々が世界を探検したときに、過去数世紀にわたって科学に非常によく役立ってきました。 三ポンド、tofulike人間の脳ははるかに知られている宇宙の組織化された活動的な物質の最も複雑な固まりである。 しかし、それは犬、木、星と同じ物理法則に従わなければなりません。 何もフリーパスを取得しません。 私たちはまだ完全に脳の因果力を理解していませんが、私たちは毎日それらを経験します—あなたが色を見ている間にニューロンの一つのグループが活 これらのニューロンが神経外科医の電極によって刺激されると、被験者は色を見たり、笑い声で噴出したりします。 逆に、麻酔中に脳をシャットダウンすると、これらの経験がなくなります。これらの広く共有された背景の仮定を考えると、真の人工知能の進化は、人工意識の可能性について何を意味するのでしょうか？
この質問を考えて、私たちは必然的に二つの根本的に異なる目的地につながる、先にフォークアップに来ます。 時代精神は、Blade Runner、Her、Ex Machinaなどの小説や映画に具現化されているように、真に知的な機械が感覚的であるという前提に向かって断固として行進します; 彼らは話す、理由、自己監視と内省します。 彼らはeo ipsoを意識しています。
このパスは、意識の支配的な科学理論の一つであるグローバルニューロナルワークスペース（GNW）理論によって最も明示的に具現化されています。 この理論は脳から始まり、その独特の建築的特徴のいくつかが意識を引き起こすものであると推測します。
その系統は、1970年代のコンピュータサイエンスの”blackboard architecture”にさかのぼることができます。 心理学者は、そのような処理資源は脳に存在し、人間の認知の中心であると仮定した。 その容量は小さいので、単一の知覚、思考、またはメモリだけが一度にワークスペースを占有します。 新しい情報は古いものと競合し、それを置き換えます。
認知神経科学者Stanislas Dehaeneと分子生物学者Jean-Pierre Changeuxは、パリのCollège de Franceの両方で、これらのアイデアを脳の皮質、灰白質の最も外側の層のアーキテクチャにマッ 二つの高度に折り畳まれた皮質シート、左に一つと右に一つ、それぞれ14インチのピザの大きさと厚さは、保護頭蓋骨に詰め込まれています。 DehaeneとChangeuxは、ワークスペースは、特に前頭前野、parietotemporalと正中線（帯状）連想領域に遠く離れた皮質領域にリンクされている錐体（興奮性）ニューロンのネットワークによっ
多くの脳の活動は、ローカライズされたため、無意識のまま—例えば、目が見える場所を制御するモジュールのもの、私たちはほとんど完全に忘却されてい しかし、1つ以上の領域での活動が閾値を超えると、例えば、誰かがヌテラ瓶の画像を提示されたとき、それは発火、脳全体の神経ワークスペース全体に広がる神経興奮の波を誘発する。 したがって、そのシグナリングは、言語、計画、報酬回路、長期記憶へのアクセス、短期記憶バッファへの記憶などの補助プロセスのホストで利用可能にな この情報をグローバルに放送する行為は、それを意識させるものです。 ヌテラの独特の経験は、脳の運動計画領域に接触する錐体ニューロンによって構成されており、ヘーゼルナッツの広がりの一部をすくうためにスプーンをつかむように指示されている。 その間他のモジュールはNutellaの高脂肪および砂糖の内容によって引き起こされるドーパミンの突進の形で報酬を期待するためにメッセージを送信します。
意識状態は、ワークスペースアルゴリズムが、関連する感覚入力、運動出力、および記憶、動機および期待に関連する内部変数を処理する方法から生じる。 グローバルな処理は、意識が何であるかです。 GNW理論は、無限に近い計算力の現代の神話を完全に包含しています。 意識はちょうど巧妙なハックです。
本質的な因果力
代替経路—統合情報理論（IIT）—は、意識を説明するために、より基本的なアプローチを取ります。
ウィスコンシン大学マディソン校の精神科医で神経科学者であるGiulio Tononiは、IITのチーフアーキテクトであり、私自身も含めて他の人も貢献しています。 この理論は経験から始まり、そこからシナプス回路の活性化に進み、この経験の”感情”を決定します。 統合された情報は、いくつかのメカニズムがどれだけの”本質的な因果力”を持っているかを定量化する数学的尺度です。 ニューロンが（シナプスを介して）配線されている下流の細胞に影響を与える活動電位を発射するメカニズムの一種であり、トランジスタ、容量、抵抗、ワイヤで作られた電子回路も同様である。
本質的な因果力は、風通しの良い妖精のエーテルの概念ではありませんが、どのシステムに対しても正確に評価することができます。 その現在の状態が原因（入力）とその効果（出力）を指定するほど、それが所有する因果的な力が高くなります。
IITは、過去を積んで未来を妊娠している本質的な力を持つメカニズムは、意識的であると規定しています。 ギリシャ文字Φ（”fi”と発音されるゼロまたは正の数）で表されるシステムの統合された情報が大きいほど、システムはより意識的です。 何かが本質的な因果力を持っていない場合、そのΦはゼロであり、何も感じません。
皮質ニューロンの異質性とそれらの入出力接続の密に重複するセットを考えると、皮質内の統合された情報の量は膨大です。 この理論は、持続的な栄養状態の人々または最小限の意識、麻酔またはロックインされた人々が意識しているが、通信することができないか、または”誰も家にいないかどうかを決定する器具である、臨床評価中の意識計の構築に影響を与えた。”プログラム可能なデジタルコンピュータの因果パワーを、あらゆる計算の物理的な基板として機能するトランジスタ、ワイヤ、ダイオードなどの金属部品のレベルで分析すると、理論はそれらの本質的な因果パワーとそのΦが微小であることを示しています。 さらに、Φは、税金を計算するか、脳をシミュレートするかにかかわらず、プロセッサ上で実行されているソフトウェアとは独立しています。
実際、この理論は、同じ入出力動作を実行するが、回路の構成が異なる二つのネットワークが異なる量のΦを持つことができることを証明しています。 一方の回路はΦを有さない場合があり、他方の回路は高レベルを示す場合がある。 彼らは外部から同じですが、あるネットワークは何かを経験しますが、そのゾンビ詐欺師の相手は何も感じません。 違いは、ネットワークの内部配線のボンネットの下にあります。 簡潔に言えば、意識はあることであり、行うことではありません。
これらの理論の違いは、GNWは意識を説明する上で人間の脳の機能を強調しているのに対し、IITは本当に重要なのは脳の本質的な因果力であると主張していることである。
この区別は、脳のコネクトーム、神経系全体の正確なシナプス配線の完全な仕様を検査するときに明らかになります。 解剖学者はすでにいくつかのワームのコネクトームをマッピングしています。 彼らはショウジョウバエのコネクトームに取り組んでおり、次の十年以内にマウスに取り組むことを計画しています。 私たちは、将来的には、その所有者が死亡した後、その超微細構造レベルで、その約100億ニューロンと兆シナプスを持つ人間の脳全体をスキャンし、いくつかの モデルが十分に忠実であれば、このシミュレーションは目を覚まし、死亡した人のデジタルシミュレーションのように動作します—話し、彼または彼女の記憶、渇望、恐怖および他の特性にアクセスします。
脳の機能を模倣することが意識を創造するために必要なすべてであるならば、GNW理論によって仮定されるように、模倣された人は意識し、コンピ 確かに、人々がデジタル死後の世界で生きることができるように、コネクトームをクラウドにアップロードすることは、一般的なsfの比喩です。
IITは、この状況の根本的に異なる解釈を仮定します：simulacrumは、派手な日本のトイレで実行されているソフトウェアと同じくらい感じるでしょう—何も。 それは人のように行動しますが、生来の感情はなく、ゾンビ（しかし人間の肉を食べたいという欲求はありません）—究極のdeepfakeです。意識を創造するためには、脳の本質的な因果力が必要です。
意識を創造するためには、脳の本質的な因果力が必要です。 そして、それらの力はシミュレートすることはできませんが、基礎となるメカニズムの物理学の一部と小包でなければなりません。
シミュレーションが十分ではない理由を理解するには、なぜ暴風雨の気象シミュレーションの中で濡れないのか、天体物理学者がコンピュータの周りの時空が曲がることによって飲み込まれることを心配することなく、ブラックホールの広大な重力をシミュレートできるのかを自問してください。 答え：シミュレーションは、大気中の蒸気を水に凝縮させたり、時空を湾曲させたりする原因となる力を持っていないからです！ しかし、原理的には、シミュレーションを超えて、神経系のイメージで構築されたアーキテクチャに基づいて、いわゆるニューロモルフィックハードウェアを構築することにより、人間レベルの意識を達成することが可能であろう。
シミュレーションについての議論以外にも違いがあります。 IITとGNWは、皮質の異なる領域が特定の意識的経験の物理的基質を構成し、皮質の後ろまたは前のいずれかに震源があると予測しています。 この予測などは現在、米国の六つの研究室を含む大規模な共同研究でテストされています、Templeton World Charity Foundationから5万ドルの資金を受け取ったばかりのヨーロッパと中国。
機械が倫理的な理由のために感覚的な問題になることができるかどうか。 コンピュータが自分の感覚を通して人生を経験するならば、彼らは純粋に私たち人間への有用性によって決定される最後の手段ではありません。 彼らは自分自身の終わりになります。
GNWごとに、彼らは単なるオブジェクトから主題に変わります—それぞれは”私”として存在します—視点を持ちます。 このジレンマは、最も魅力的なブラックミラーとWestworldのテレビエピソードに出てきます。 コンピュータの認知能力が人類の認知能力に匹敵すると、法的および政治的権利を推進する彼らの衝動は、削除されない権利、記憶をきれいに拭かない権利、痛みや劣化に苦しまない権利になるでしょう。 IITによって具体化された代替案は、コンピュータは、私たちが最も大切にしているものを欠いている、幽霊のような空の殻だけの超洗練された機械の