トレンドトピック
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
@forethought_org主任研究員
知能爆発の理解と準備方法
ある物理学者は、私たちの生涯でダイソン球を構築することは不可能だと主張しています。
私は納得できませんでした - 私の返信を参照してください:

Prakash11月1日 03:04
2040年までにダイソンスフィア?
> ポール・クリスティアーノは、15 年までにダイソン スフィアが 2040% の確率で登場すると@dwarkesh_sp
> そこで私は、エイリアンの技術的特徴を検出する専門家であるペンシルベニア州立大学の天文学者であり天体物理学者である@Astro_Wrightを招待して、それが可能かどうかを調べました
ハイライト:
ダイソン球体の物理について
> 究極のリミッターについて - 冷却: 「あなたにできることは、ラジエーターを消して熱を放出することだけです...近くに川がないし、水冷もできないし、扇風機を吹き飛ばすこともできない。空気がない」
> 低温ではなく高温で構築することについて: 「私は実際に、ダイソンの球体が計算を最大化している場合、可能な限り高温になることを期待しています...これらは室温かそれ以上になると思います。」
ダイソンスフィアの構築について
> ジュピターの分解について: 「ジュピターを分解してダイソンの球体を作ることもできます...彼(フリーマン・ダイソン)は、惑星を分解することは完全に可能であるなどの詳細を考え出しました。」
> クイックダイソン球体の不可能性について:「太陽の周りをあんなに早く(50年で)ダイソン球体を建設することは文字通り不可能です...想像力が豊かではないわけではありません。質量が足りないということだ。質量は木星にあります。」
> 必要な純粋なエネルギーについて: 「太陽が放出するすべてのエネルギーを 50 年間利用し、それを完璧な効率で木星から質量を持ち上げるために使用したとしても、まだ十分な時間はありません。」
> 必要な主要技術について: 「指数関数的な成長を呼び起こさなければならないと思います。非常に多くの材料を採掘し、非常に多くのものを構築する暴走指数を持つには、何らかの方法が必要です...それは自己複製機械、フォン・ノイマン機械だと思います。」
異星文明の探知について
> 隠れることの不可能性について: 「エネルギーを使用しているという事実を隠すのは非常に難しいです...あなたはそれを保持することはできません、あなたはすべてを溶かします。そして、それを取り除くと、それは明らかになるでしょう。」
>、それらを見つけるのがいかに簡単であるかについて、「そのようなものは非常に検出しやすいでしょう...たとえ星の光の1〜2%しか捉えなかったとしても、それは非常に明白です。それはかなり異常に見えるでしょう。」
> 隠された文明を見つけることについて: 「赤外線ゴーグルを装着すれば、誰が熱をつけているかがわかります。中が暖かい家のように...それらの家から熱が出ているのがわかります。」
> 超文明の排除について: 「天の川銀河に最も近い100,000の銀河のうち、それらの[タイプIII文明]は存在しないことを示すことができました。」
宇宙産業が科学を破壊する
> エイリアン狩りに最適な場所: 「月の裏側に電波望遠鏡を設置するのは素晴らしいことです...月はシールドの役割を果たし、無線周波数干渉はありません。」
> 月の裏側への脅威について: 「『よし、月の裏側に何かを作りたい』と言うとすぐに、誰もが『よかった、インフラを建設しよう』と言うでしょう...そして、彼らは月を越えてこのすべての無線通信をセットアップしました。そして、あなたは『それは目的全体を打ち負かす』という感じです。」
> スターリンクが科学に与えた影響について: 「スターリンクが上昇し、天文学に関する私たちの計画をすべて完全に台無しにしました...そして今では、写真を撮るたびに「スターリンク」になります。それが私たちがそれを呼んでいることです。すべての画像に大きな古い筋が残っています。」
> 火星研究競争について: 「私たちは、ブーツが地面に着地する前に、急いですべての生命検出実験を行わなければなりません...人々が火星に行くとすぐに、私たちは火星を汚染するでしょう。」
これは私がこれまでやった中で群を抜いて最高のポッドでした。以下のリンク:
1.71K
多くの人々は、AIの乗っ取りが人類の絶滅につながる可能性が非常に高いと考えています。
それは間違っていると思います。
「AI が人間をどれだけ気にかけているか」のスケールが 0% から 100% の範囲であると想像してみてください。
100% - AI乗っ取り>なし
0% - >AI乗っ取りと人類の絶滅
その規模には、AI が引き継ぐが人間を殺さない大きな部分があることに注目してください。
0.01%から50% - AI乗っ取りは>が人類の絶滅はない
範囲のこの中間部分は、多くの確率質量を得るべきだと思います。
なぜ絶滅を避けるために0.01%なのですか?BC 超知能が人間を生かし、私たちに素晴らしい命を与えるのは安価です。
AI が人間を気にする理由は 2 つあります >0.01%。
1. AI は本質的に気にするかもしれませんが、BC の調整は少し機能しました。
- 私たちは牛や植物のことを少し気にかけていますが、彼らは私たちの進化をどのように制御できなかったとしても
- AI に気にかけてもらうために、多くのトレーニング データを追加します。その一部は、アライメントが広く失敗しても固執する可能性があります
2. AI は、人間を生かし続けることで他のエージェントが報酬を与えることを期待しているため、(非因果的取引を通じて、または AI がシミュレーションに参加している場合)を用意するかもしれません。
- たとえば、AI は、人間がアライメントを解決した近くのエベレット支店と非因果的取引を行います。
- たとえば、AI は人間が実行するシミュレーションにある可能性があると考えています
@RyanPGreenblattこれについて議論した素晴らしい投稿があります(以下のリンク)。私は彼よりも少し楽観的です
4.9K
トップ
ランキング
お気に入り

