0000
00:00:05,000 --> 00:00:10,000
YoubetCash.net
Agen Judi Online Aman & Terpercaya

000
00:00:11,000 --> 00:00:15,000
Bonus Cashback Bola 6%
Bonus Rollingan 0,80%

00
00:00:16,000 --> 00:00:20,000
Welcome Bonus Rp 25.000
Extra Bonus Tambahan Withdraw Rp 2.000.000

0
00:00:21,000 --> 00:00:25,000
CashBack Mix Parlay 100%
Bonus Ajak teman 45,2%

1
00:00:48,222 --> 00:00:51,703
MAX TEGMARK: 
Jika kita membangun 
kecerdasan umum buatan ,

2
00:00:51,747 --> 00:00:53,531
itu akan menjadi acara terbesar

3
00:00:53,575 --> 00:00:56,708
dalam sejarah 
kehidupan di Bumi.

4
00:00:56,752 --> 00:01:00,147
LOUIS ROSENBERG: Intelijen asing di dalam sistem komputer itu

5
00:01:00,190 --> 00:01:03,280
memiliki kendali atas planet ini, 
hari ia tiba ...

6
00:01:03,324 --> 00:01:05,108
JAMES CAMERON: 
Dan 
buku dan film fiksi ilmiah

7
00:01:05,152 --> 00:01:07,197
telah mengaturnya terlebih dahulu.

8
00:01:25,781 --> 00:01:27,696
Apa masalahnya?

9
00:01:27,739 --> 00:01:29,698
HAL: Saya pikir Anda tahu 
apa masalahnya

10
00:01:29,741 --> 00:01:31,134
seperti halnya saya.

11
00:01:31,178 --> 00:01:32,701
Apa yang kamu 
bicarakan, HAL?

12
00:01:34,094 --> 00:01:35,617
HAL: Misi 
ini terlalu penting

13
00:01:35,660 --> 00:01:37,793
bagi saya untuk memungkinkan Anda 
untuk membahayakannya.

14
00:01:39,360 --> 00:01:42,363
Saya tidak tahu apa yang Anda 
bicarakan, HAL.

15
00:01:42,406 --> 00:01:45,975
KEIR DULLEA: 
HAL, 
komputer yang sangat cerdas .

16
00:01:46,018 --> 00:01:48,325
Kami akan menyebutnya AI hari ini.

17
00:01:49,544 --> 00:01:52,242
Karakter saya, Dave, 
adalah astronot

18
00:01:52,286 --> 00:01:55,027
dalam salah satu film paling kenabian yang 
pernah dibuat

19
00:01:55,071 --> 00:01:57,378
tentang ancaman 
terhadap kemanusiaan

20
00:01:57,421 --> 00:01:59,423
oleh kecerdasan buatan.

21
00:02:01,121 --> 00:02:03,166
HAL adalah fiksi ilmiah.

22
00:02:03,210 --> 00:02:06,996
Tapi sekarang, AI ada di sekitar kita.

23
00:02:07,039 --> 00:02:09,172
Kecerdasan buatan 
bukanlah masa depan.

24
00:02:09,216 --> 00:02:11,087
AI sudah ada di sini.

25
00:02:11,131 --> 00:02:12,915
Minggu ini robot 
mencalonkan diri sebagai walikota

26
00:02:12,958 --> 00:02:14,177
di kota kecil 
Jepang.

27
00:02:14,221 --> 00:02:15,352
Gedung Putih berkata

28
00:02:15,396 --> 00:02:17,137
itu menciptakan 
gugus tugas baru

29
00:02:17,180 --> 00:02:19,182
untuk fokus 
pada kecerdasan buatan.

30
00:02:19,226 --> 00:02:21,271
Google telah 
mengumumkan rencana

31
00:02:21,315 --> 00:02:23,360
untuk berinvestasi lebih banyak dalam penelitian AI.

32
00:02:23,404 --> 00:02:28,713
MALE NEWS ANCHOR: IBM mengirim robot kecerdasan buatan ke luar angkasa.

33
00:02:28,757 --> 00:02:31,673
DULLEA: 
Karena peran kecil saya 
dalam percakapan,

34
00:02:31,716 --> 00:02:34,154
Saya mengerti 
bahwa kita sedang dalam perjalanan,

35
00:02:34,197 --> 00:02:37,244
yang dimulai 
dengan AI sempit.

36
00:02:37,287 --> 00:02:39,942
Mesin yang melakukan 
tugas tertentu

37
00:02:39,985 --> 00:02:41,378
lebih baik dari yang kita bisa.

38
00:02:42,336 --> 00:02:44,381
Tapi AI fiksi ilmiah

39
00:02:44,425 --> 00:02:47,471
adalah 
kecerdasan umum buatan ,

40
00:02:47,515 --> 00:02:50,213
mesin yang bisa 
melakukan semuanya

41
00:02:50,257 --> 00:02:51,693
lebih baik dari kita.

42
00:02:52,694 --> 00:02:54,478
AI sempit benar-benar

43
00:02:54,522 --> 00:02:57,220
seperti orang idiot 
yang ekstrim,

44
00:02:57,264 --> 00:02:58,830
di mana ia dapat melakukan sesuatu,

45
00:02:58,874 --> 00:03:00,963
seperti angka gandakan 
sangat cepat,

46
00:03:01,006 --> 00:03:02,617
jauh lebih baik daripada manusia mana pun.

47
00:03:02,660 --> 00:03:06,011
Tetapi tidak bisa melakukan 
hal lain apa pun.

48
00:03:06,055 --> 00:03:09,928
Tapi AGI, 
kecerdasan umum buatan ,

49
00:03:09,972 --> 00:03:12,453
yang belum ada, 
malah sebaliknya

50
00:03:12,496 --> 00:03:14,629
kecerdasan 
yang bisa melakukan segalanya

51
00:03:14,672 --> 00:03:15,934
sebaik manusia bisa.

52
00:03:21,244 --> 00:03:24,247
DULLEA: Jadi apa yang terjadi 
jika kita membuat AGI?

53
00:03:25,248 --> 00:03:27,294
Penulis fiksi ilmiah 
telah memperingatkan kita

54
00:03:27,337 --> 00:03:28,773
itu bisa berbahaya.

55
00:03:29,513 --> 00:03:31,385
Dan mereka bukan satu-satunya.

56
00:03:32,864 --> 00:03:35,911
ELON MUSK: Saya pikir orang harus khawatir tentang hal itu.

57
00:03:35,954 --> 00:03:37,565
AI adalah risiko mendasar

58
00:03:37,608 --> 00:03:39,349
untuk keberadaan 
peradaban manusia.

59
00:03:39,393 --> 00:03:42,178
Dan saya pikir orang tidak 
sepenuhnya menghargai itu.

60
00:03:42,222 --> 00:03:43,919
Saya pikir kita harus 
khawatir tentang itu.

61
00:03:43,962 --> 00:03:45,225
Saya tidak berpikir itu melekat

62
00:03:45,268 --> 00:03:48,010
karena kami menciptakan 
kecerdasan super

63
00:03:48,053 --> 00:03:49,533
bahwa itu akan 
selalu terjadi

64
00:03:49,577 --> 00:03:51,927
memiliki tujuan yang sama dalam pikiran 
yang kita lakukan.

65
00:03:51,970 --> 00:03:53,233
Saya pikir perkembangannya

66
00:03:53,276 --> 00:03:55,713
<font style="vertical-align: inherit;"></font>
kecerdasan buatan penuh

67
00:03:55,757 --> 00:03:58,368
bisa mengeja akhir 
ras manusia.

68
00:03:58,412 --> 00:04:00,457
[ECHOING] 
... akhir dari umat manusia.

69
00:04:01,893 --> 00:04:05,201
Besok, jika tajuk utama mengatakan 
kecerdasan buatan

70
00:04:05,245 --> 00:04:08,248
telah diproduksi 
yang sama cerdasnya

71
00:04:08,291 --> 00:04:10,293
atau lebih pintar 
dari manusia,

72
00:04:10,337 --> 00:04:12,077
orang akan berdebat tentang hal itu, 
tetapi saya tidak berpikir

73
00:04:12,121 --> 00:04:13,992
mereka akan terkejut, 
karena fiksi ilmiah

74
00:04:14,036 --> 00:04:15,907
telah membantu kami membayangkan segala macam

75
00:04:15,951 --> 00:04:17,431
hal-hal yang tak terbayangkan.

76
00:04:20,999 --> 00:04:23,393
DULLEA: Para ahli terbagi 
tentang dampaknya

77
00:04:23,437 --> 00:04:25,613
AI akan ada di masa depan kita,

78
00:04:25,656 --> 00:04:29,747
dan apakah Hollywood 
membantu kita merencanakannya atau tidak.

79
00:04:29,791 --> 00:04:32,750
OREN ETZIONI: Dialog kami 
benar-benar dibajak 
oleh Hollywood

80
00:04:32,794 --> 00:04:35,927
karena Terminator 
membuat blockbuster yang lebih baik

81
00:04:35,971 --> 00:04:38,147
dari AI yang baik,

82
00:04:38,190 --> 00:04:39,409
atau AI menjadi netral,

83
00:04:39,453 --> 00:04:41,063
atau AI sedang bingung.

84
00:04:41,106 --> 00:04:42,456
Teknologi di sini di AI

85
00:04:42,499 --> 00:04:44,501
tidak berbeda. 
Itu alat.

86
00:04:44,545 --> 00:04:47,156
Saya suka menganggapnya 
sebagai pensil mewah.

87
00:04:47,199 --> 00:04:49,593
Dan gambar apa yang 
kita gambar dengannya,

88
00:04:49,637 --> 00:04:52,248
itu terserah kita sebagai masyarakat.

89
00:04:52,292 --> 00:04:55,251
Kami tidak harus melakukan 
apa yang AI katakan kepada kami.

90
00:04:55,295 --> 00:04:56,861
Kami memberi tahu AI apa yang harus dilakukan.

91
00:04:56,905 --> 00:04:58,602
[Bip]

92
00:04:58,646 --> 00:05:00,300
DAVID MALONE: Saya pikir 
film-film Hollywood

93
00:05:00,343 --> 00:05:02,214
bantu percakapan.

94
00:05:02,258 --> 00:05:03,781
Seseorang harus berpikir

95
00:05:03,825 --> 00:05:07,089
di depan apa 
konsekuensinya.

96
00:05:07,132 --> 00:05:08,786
Tapi sama seperti yang tidak bisa kita 
bayangkan

97
00:05:08,830 --> 00:05:11,311
seperti apa sains sebenarnya 
di masa depan 
,

98
00:05:11,354 --> 00:05:13,400
Saya tidak berpikir kita sudah mulai

99
00:05:13,443 --> 00:05:16,316
untuk benar-benar memikirkan 
semua masa depan yang mungkin,

100
00:05:16,359 --> 00:05:19,188
yang secara logis muncul 
dari teknologi ini.

101
00:05:19,231 --> 00:05:23,497
MALE REPORTER: 
Kecerdasan buatan memiliki 
kekuatan untuk mengubah masyarakat.

102
00:05:23,540 --> 00:05:25,499
Paduan suara 
kritik yang berkembang

103
00:05:25,542 --> 00:05:27,283
menyoroti bahaya

104
00:05:27,327 --> 00:05:29,416
menyerahkan kontrol 
ke mesin.

105
00:05:29,459 --> 00:05:31,331
Akan ada 
banyak perubahan yang akan terjadi.

106
00:05:31,374 --> 00:05:32,897
Perhatian jangka panjang yang lebih besar

107
00:05:32,941 --> 00:05:35,639
adalah bahwa umat manusia akan 
dikesampingkan.

108
00:05:35,683 --> 00:05:37,598
NEWS ANCHOR: 
Ini adalah sesuatu 
Stanley Kubrick dan lainnya

109
00:05:37,641 --> 00:05:39,469
khawatir sekitar 
50 tahun yang lalu, kan?

110
00:05:41,993 --> 00:05:43,647
DULLEA: Itu terjadi.

111
00:05:43,691 --> 00:05:47,608
Bagaimana kita mengukur urgensi 
dari percakapan ini?

112
00:05:49,436 --> 00:05:51,742
ROSENBERG: Jika orang melihat di radar sekarang

113
00:05:51,786 --> 00:05:54,179
bahwa pesawat ruang angkasa alien 
mendekati Bumi

114
00:05:54,223 --> 00:05:56,181
dan itu 25 tahun lagi,

115
00:05:56,225 --> 00:05:57,835
kami akan dimobilisasi 
untuk mempersiapkan

116
00:05:57,879 --> 00:06:00,621
untuk kedatangan alien itu 
25 tahun dari sekarang.

117
00:06:00,664 --> 00:06:03,058
Tapi itulah 
situasi yang kita hadapi

118
00:06:03,101 --> 00:06:04,799
dengan kecerdasan buatan.

119
00:06:04,842 --> 00:06:06,670
Bisa 25 tahun, bisa 50 tahun,

120
00:06:06,714 --> 00:06:09,456
tetapi kecerdasan alien akan tiba

121
00:06:09,499 --> 00:06:11,109
dan kita harus siap.

122
00:06:14,286 --> 00:06:16,637
PRIA: 
Baiklah, tuan-tuan, temui Tobor.

123
00:06:16,680 --> 00:06:19,379
Simulacrum elektronik 
seorang pria.

124
00:06:19,422 --> 00:06:21,772
Ya ampun. Oh, astaga gee.

125
00:06:21,816 --> 00:06:24,645
Meskipun banyak pekerjaan yang tersisa 
sebelum dia selesai,

126
00:06:24,688 --> 00:06:26,211
dia sudah 
menjadi makhluk hidup.

127
00:06:26,255 --> 00:06:28,344
[MURMURING]

128
00:06:28,388 --> 00:06:30,390
RODNEY BROOKS: 
Kembali pada tahun 1956 ketika istilah tersebut

129
00:06:30,433 --> 00:06:32,696
kecerdasan buatan 
pertama kali muncul,

130
00:06:32,740 --> 00:06:35,395
tujuan asli 
kecerdasan buatan

131
00:06:35,438 --> 00:06:37,701
adalah kecerdasan tingkat manusia.

132
00:06:37,745 --> 00:06:41,052
Dia memang terlihat hampir baik, 
bukan?

133
00:06:41,096 --> 00:06:43,838
BROOKS: Dari waktu ke waktu itu terbukti sangat sulit.

134
00:06:46,449 --> 00:06:49,626
Saya pikir, pada akhirnya, 
kita akan memiliki level manusia

135
00:06:49,670 --> 00:06:51,889
kecerdasan dari mesin.

136
00:06:51,933 --> 00:06:55,153
Tetapi mungkin 
beberapa ratus tahun. 
Butuh beberapa saat.

137
00:06:55,197 --> 00:06:57,634
Dan orang jadi 
sedikit terlalu bersemangat

138
00:06:57,678 --> 00:06:59,854
tentang kemampuan masa depan.

139
00:06:59,897 --> 00:07:03,945
Dan sekarang, Elektro, 
aku perintahkan kamu untuk berjalan kembali.

140
00:07:04,293 --> 00:07:05,425
Kembali.

141
00:07:08,297 --> 00:07:09,559
MALONE: 
Hampir setiap generasi,

142
00:07:09,603 --> 00:07:11,169
orang menjadi 
sangat antusias.

143
00:07:11,213 --> 00:07:12,736
Mereka menonton 2001,

144
00:07:12,780 --> 00:07:14,564
mereka jatuh cinta dengan HAL, 
mereka berpikir,

145
00:07:14,608 --> 00:07:16,871
"Ya, beri aku enam minggu. 
Aku akan menyelesaikan ini."

146
00:07:17,785 --> 00:07:19,830
Itu tidak terjadi dan semua orang marah.

147
00:07:21,179 --> 00:07:24,052
DULLEA: 
Jadi apa yang berubah 
dalam penelitian AI?

148
00:07:26,489 --> 00:07:28,839
MALONE: Perbedaannya dengan AI yang kita miliki saat ini

149
00:07:28,883 --> 00:07:32,495
dan alasan AI tiba-tiba mengambil lompatan besar ini

150
00:07:32,539 --> 00:07:34,758
adalah Internet. 
Itu dunia mereka.

151
00:07:34,802 --> 00:07:37,587
Malam ini jalan 
raya informasi ,

152
00:07:37,631 --> 00:07:39,415
dan salah satu jalan utama 
,

153
00:07:39,459 --> 00:07:42,505
jaringan online yang 
disebut Internet.

154
00:07:42,549 --> 00:07:45,421
MALE REPORTER: Pada tahun 1981, 
hanya 213 komputer

155
00:07:45,465 --> 00:07:46,901
terhubung ke Internet.

156
00:07:46,944 --> 00:07:48,816
Saat tahun baru dimulai, 
diperkirakan

157
00:07:48,859 --> 00:07:50,600
dua setengah juta 
komputer

158
00:07:50,644 --> 00:07:51,993
akan ada di jaringan.

159
00:07:53,516 --> 00:07:55,126
AI perlu makan.

160
00:07:55,170 --> 00:07:57,346
Sama seperti domba membutuhkan rumput,

161
00:07:57,389 --> 00:07:59,087
AI membutuhkan data.

162
00:07:59,130 --> 00:08:02,525
Dan padang rumput data yang hebat 
ada di Internet.

163
00:08:03,134 --> 00:08:04,484
Itu apa adanya.

164
00:08:05,136 --> 00:08:06,181
Mereka berkata, "Kamu tahu?

165
00:08:06,224 --> 00:08:07,661
"Biarkan saja mereka lepas di sana."

166
00:08:09,532 --> 00:08:11,839
Dan tiba-tiba, 
AI hidup kembali.

167
00:08:11,882 --> 00:08:14,276
REPORTER WANITA: Bayangkan 
ribuan robot berbicara

168
00:08:14,319 --> 00:08:15,973
dapat bergerak sebagai satu unit,

169
00:08:16,017 --> 00:08:17,322
mengambil kejahatan, kebakaran,

170
00:08:17,366 --> 00:08:18,976
dan bencana alam.

171
00:08:19,020 --> 00:08:21,805
<font style="vertical-align: inherit;"></font>
Amper platform kecerdasan buatan

172
00:08:21,849 --> 00:08:24,416
telah membuat album pertama 
seluruhnya tersusun

173
00:08:24,460 --> 00:08:26,157
dan diproduksi 
oleh kecerdasan buatan.

174
00:08:26,201 --> 00:08:29,552
Minggu depan, Christie's akan menjadi 
rumah lelang pertama

175
00:08:29,596 --> 00:08:33,251
untuk menawarkan karya seni yang diciptakan 
oleh kecerdasan buatan.

176
00:08:34,165 --> 00:08:35,819
Mobil tanpa supir, konon

177
00:08:35,863 --> 00:08:38,648
di masa depan kita yang tidak terlalu jauh.

178
00:08:38,692 --> 00:08:40,955
DULLEA: Jadi meskipun 
kita tidak memiliki AGI

179
00:08:40,998 --> 00:08:44,262
atau 
kecerdasan tingkat manusia,

180
00:08:44,306 --> 00:08:45,699
apakah kita siap memberikan otonomi?

181
00:08:45,742 --> 00:08:48,440
ke mesin yang kita miliki?

182
00:08:48,484 --> 00:08:51,574
Haruskah mobil self-driving 
membuat keputusan etis?

183
00:08:51,618 --> 00:08:53,881
Itulah debat yang berkembang 
sebagai teknologi

184
00:08:53,924 --> 00:08:56,318
bergerak lebih dekat menuju 
realitas arus utama.

185
00:08:58,233 --> 00:08:59,843
MARY CUMMING: Gagasan 
apakah ini atau tidak

186
00:08:59,887 --> 00:09:02,846
kita bisa menanamkan etika 
ke dalam mesin,

187
00:09:02,890 --> 00:09:04,544
apakah mereka adalah 
mesin otomatis

188
00:09:04,587 --> 00:09:06,415
atau mesin otonom,

189
00:09:06,458 --> 00:09:08,286
Saya tidak yakin 
kita sudah menemukan jawabannya.

190
00:09:08,330 --> 00:09:09,723
Jika Anda memiliki 
mobil self-driving,

191
00:09:09,766 --> 00:09:11,202
itu harus membuat 
keputusan etis.

192
00:09:11,246 --> 00:09:14,641
Yang klasik yang banyak 
dipikirkan orang adalah ...

193
00:09:14,684 --> 00:09:16,556
Saya tidak tahu apakah Anda pernah mendengar 
masalah troli.

194
00:09:16,599 --> 00:09:18,122
Masalah troli. Masalah troli.

195
00:09:18,166 --> 00:09:20,211
Masalah troli. Masalah troli.

196
00:09:21,604 --> 00:09:22,823
CUMMING: 
Dalam masalah troli,

197
00:09:22,866 --> 00:09:24,172
apakah 
mobil tanpa pengemudi atau tidak

198
00:09:24,215 --> 00:09:26,870
akan menyimpan driver 
atau tertabrak

199
00:09:26,914 --> 00:09:29,046
sekelompok anak sekolah 
menyeberang jalan.

200
00:09:29,090 --> 00:09:31,614
ETZIONI: Apakah mobilnya 
akan tepat dan menabrak wanita tua itu

201
00:09:31,658 --> 00:09:35,575
atau akankah ia pergi ke kiri dan membunuh 
keempat anak muda itu?

202
00:09:35,618 --> 00:09:39,143
MICHAL KOSINSKI: 
Bunuh lima orang yang 
berdiri di halte bus

203
00:09:39,187 --> 00:09:40,405
atau bunuh diri.

204
00:09:40,449 --> 00:09:41,972
Ini keputusan etis

205
00:09:42,016 --> 00:09:43,931
yang harus dibuat 
pada saat ini,

206
00:09:43,974 --> 00:09:46,020
terlalu cepat bagi siapa pun 
untuk masuk ke sana.

207
00:09:46,063 --> 00:09:48,544
Jadi ini adalah perangkat lunak 
dalam mobil self-driving Anda

208
00:09:48,588 --> 00:09:50,546
itu akan membuat 
keputusan etis.

209
00:09:50,590 --> 00:09:51,852
Siapa yang memutuskan itu?

210
00:09:52,679 --> 00:09:53,897
KOSINSKI: 
Masyarakat pintar,

211
00:09:53,941 --> 00:09:55,899
masyarakat yang 
menghargai kehidupan manusia,

212
00:09:55,943 --> 00:09:58,336
harus membuat keputusan itu

213
00:09:58,380 --> 00:10:02,427
membunuh satu orang 
lebih disukai daripada 
membunuh lima orang.

214
00:10:02,471 --> 00:10:06,344
Tentu saja, 
itu menimbulkan pertanyaan 
siapa yang akan membeli mobil itu.

215
00:10:06,388 --> 00:10:09,130
Atau, Anda tahu, apakah Anda akan 
membeli mobil di tempat yang sebenarnya,

216
00:10:09,173 --> 00:10:11,654
[Berbisik] itu akan membelok 
dan Anda akan baik-baik saja,

217
00:10:11,698 --> 00:10:13,134
tapi mereka goners.

218
00:10:14,918 --> 00:10:17,442
ETZIONI: Ada ratusan 
pertanyaan seperti itu

219
00:10:17,486 --> 00:10:19,140
di seluruh masyarakat.

220
00:10:19,183 --> 00:10:22,883
Maka, para filsuf etis 
berperang bolak-balik.

221
00:10:25,146 --> 00:10:27,583
ETZIONI: Kencing saya dengan 
para filsuf adalah

222
00:10:27,627 --> 00:10:30,804
mereka menyedot oksigen 
keluar dari ruangan.

223
00:10:30,847 --> 00:10:33,763
Ada metafora 
yang saya miliki

224
00:10:33,807 --> 00:10:37,114
Anda memiliki mobil yang 
mengemudi jauh dari pernikahan,

225
00:10:37,158 --> 00:10:41,205
dan mobil itu mengemudi, 
dan di belakangnya ada kaleng.

226
00:10:41,249 --> 00:10:45,645
Dan kaleng logam 
berdentang dan membuat kebisingan.

227
00:10:45,688 --> 00:10:47,690
Mobil itu adalah sains

228
00:10:47,734 --> 00:10:50,345
dan teknologi 
mendorong maju dengan tegas.

229
00:10:50,388 --> 00:10:51,955
Dan kaleng logam berdentang

230
00:10:51,999 --> 00:10:54,697
adalah para filsuf 
membuat banyak suara.

231
00:10:54,741 --> 00:10:56,525
Dunia berubah 
sedemikian rupa

232
00:10:56,568 --> 00:11:01,138
itu pertanyaan kita 
membangun mesin

233
00:11:01,182 --> 00:11:04,098
yang bisa menjadi 
lebih pintar dari kita

234
00:11:04,141 --> 00:11:07,710
lebih merupakan kenyataan daripada fiksi saat ini.

235
00:11:10,147 --> 00:11:12,759
DULLEA: Bukankah kita 
harus bertanya sekarang,

236
00:11:12,802 --> 00:11:15,805
sebelum mesin 
menjadi lebih pintar dari kita?

237
00:11:15,849 --> 00:11:18,373
Maksud saya, bagaimana jika mereka 
mencapai kesadaran?

238
00:11:19,635 --> 00:11:21,463
Seberapa jauh itu?

239
00:11:25,075 --> 00:11:26,816
Seberapa dekat kita 
dengan mesin sadar?

240
00:11:26,860 --> 00:11:28,688
Itulah pertanyaan 
yang muncul

241
00:11:28,731 --> 00:11:32,082
filsuf dan ilmuwan 
meledak, saya pikir.

242
00:11:32,126 --> 00:11:34,302
Anda adalah pusat mati

243
00:11:34,345 --> 00:11:37,871
dari 
peristiwa ilmiah terbesar 
dalam sejarah manusia.

244
00:11:37,914 --> 00:11:39,699
Jika Anda telah membuat 
mesin sadar,

245
00:11:39,742 --> 00:11:41,309
itu bukan sejarah manusia.

246
00:11:42,614 --> 00:11:44,834
Itulah sejarah para dewa.

247
00:11:44,878 --> 00:11:48,533
Masalah dengan kesadaran 
hampir tidak ada siapa pun

248
00:11:48,577 --> 00:11:50,884
dapat menentukan apa itu.

249
00:11:53,408 --> 00:11:55,976
DULLEA: Apakah kesadaran 
yang membuat kita istimewa?

250
00:11:57,586 --> 00:11:58,718
Manusia?

251
00:12:00,894 --> 00:12:03,026
MALONE: Cara berpikir 
tentang kesadaran

252
00:12:03,070 --> 00:12:05,159
yang mana banyak orang 
akan setuju dengan ...

253
00:12:05,202 --> 00:12:07,857
Anda tidak akan pernah menemukan sesuatu yang menarik bagi semua orang.

254
00:12:07,901 --> 00:12:10,468
... bukan hanya 
lampu berkedip, 
tapi rumah seseorang.

255
00:12:11,252 --> 00:12:13,036
Jadi, jika Anda memiliki ...

256
00:12:13,080 --> 00:12:15,386
Jika Anda membeli 
salah satunya

257
00:12:15,430 --> 00:12:16,953
mesin bermain catur sederhana,

258
00:12:17,606 --> 00:12:19,173
mungkin mengalahkanmu di catur.

259
00:12:19,216 --> 00:12:21,218
Ada 
banyak lampu yang berkedip.

260
00:12:21,262 --> 00:12:23,743
Tapi tidak ada seorang pun di 
saat itu menang,

261
00:12:23,786 --> 00:12:25,222
"Aku menang."

262
00:12:25,962 --> 00:12:29,749
Baiklah? 
Padahal anjingmu

263
00:12:29,792 --> 00:12:32,534
adalah pemain catur sampah,

264
00:12:32,577 --> 00:12:33,927
tetapi Anda melihat anjing itu 
dan berpikir,

265
00:12:33,970 --> 00:12:36,930
"Seseorang benar-benar masuk. 
Ini bukan hanya sebuah mekanisme."

266
00:12:38,845 --> 00:12:42,283
Orang bertanya-tanya apakah kecerdasan umum

267
00:12:42,326 --> 00:12:44,459
membutuhkan kesadaran.

268
00:12:46,766 --> 00:12:50,160
Sebagian mungkin tergantung pada 
tingkat kecerdasan umum 
apa yang Anda bicarakan.

269
00:12:50,204 --> 00:12:53,250
Seekor tikus memiliki 
kecerdasan umum.

270
00:12:53,294 --> 00:12:55,339
Dugaan saya adalah, jika Anda punya 
mesin yang punya

271
00:12:55,383 --> 00:12:58,473
kecerdasan umum 
pada tingkat, 
katakanlah, mouse atau lebih,

272
00:12:58,516 --> 00:13:00,997
itu akan menjadi penantang yang baik untuk memiliki kesadaran.

273
00:13:04,653 --> 00:13:05,697
SAM HARRIS: Kami belum di sana.

274
00:13:05,741 --> 00:13:07,787
Kami tidak dihadapkan dengan robot humanoid

275
00:13:07,830 --> 00:13:09,832
itu lebih pintar dari kita.

276
00:13:09,876 --> 00:13:12,182
Kami berada dalam 
posisi etis yang aneh ini

277
00:13:12,226 --> 00:13:15,446
tidak tahu di mana dan bagaimana 
kesadaran muncul,

278
00:13:15,490 --> 00:13:18,841
dan kami sedang membangun 
pikiran yang 
semakin rumit .

279
00:13:18,885 --> 00:13:20,800
Kita tidak akan tahu apakah 
mereka sadar atau tidak,

280
00:13:20,843 --> 00:13:22,062
tapi kita mungkin merasa begitu.

281
00:13:24,194 --> 00:13:26,718
MALONE: Contoh termudah 
adalah jika Anda memprogram

282
00:13:26,762 --> 00:13:29,634
ke dalam komputer semua yang Anda tahu tentang sukacita,

283
00:13:29,678 --> 00:13:31,201
setiap referensi dalam literatur,

284
00:13:31,245 --> 00:13:33,943
setiap definisi, 
setiap senyawa kimia

285
00:13:33,987 --> 00:13:36,119
yang terlibat dengan sukacita 
di otak manusia,

286
00:13:36,163 --> 00:13:39,644
dan Anda menaruh semua 
informasi itu di komputer,

287
00:13:39,688 --> 00:13:42,778
Anda bisa berpendapat 
bahwa itu memahami kegembiraan.

288
00:13:42,822 --> 00:13:45,476
Pertanyaannya adalah, 
pernahkah ia merasakan sukacita?

289
00:13:51,613 --> 00:13:53,354
DULLEA: Apakah HAL punya emosi?

290
00:13:55,095 --> 00:13:58,228
Akankah AI merasakan 
apa yang kita lakukan?

291
00:13:59,882 --> 00:14:02,406
MICHAEL LITTMAN: 
Sangat sulit untuk mendapatkan 
mesin untuk melakukan hal-hal tersebut

292
00:14:02,450 --> 00:14:06,149
yang tidak kita pikirkan, 
yang tidak kita sadari.

293
00:14:06,193 --> 00:14:09,326
Hal-hal seperti mendeteksi 
orang itu di sana

294
00:14:09,370 --> 00:14:11,198
benar-benar tidak senang 
dengan cara itu ...

295
00:14:11,241 --> 00:14:12,721
Sesuatu tentang 
apa yang saya lakukan.

296
00:14:12,764 --> 00:14:14,027
Dan mereka mengirim 
sinyal halus

297
00:14:14,070 --> 00:14:15,506
dan saya mungkin 
harus mengubah apa yang saya lakukan.

298
00:14:17,334 --> 00:14:18,988
Kami tidak tahu cara membuat 
mesin yang sebenarnya bisa

299
00:14:19,032 --> 00:14:22,252
mendengarkan 
isyarat sosial kecil semacam itu .

300
00:14:24,994 --> 00:14:28,389
Ada anggapan bahwa mungkin 
ada sesuatu yang ajaib

301
00:14:28,432 --> 00:14:30,434
tentang otak,

302
00:14:30,478 --> 00:14:32,045
tentang wetware 
memiliki

303
00:14:32,088 --> 00:14:33,785
sebuah 
sistem pemrosesan informasi

304
00:14:33,829 --> 00:14:34,917
terbuat dari daging, bukan?

305
00:14:34,961 --> 00:14:37,311
Dan apa pun yang kita lakukan 
di mesin kita,

306
00:14:37,354 --> 00:14:40,705
betapapun kompeten 
mereka mulai tampak,

307
00:14:40,749 --> 00:14:42,272
mereka tidak 
akan pernah benar - benar pintar

308
00:14:42,316 --> 00:14:44,579
dengan cara yang kita alami 
menjadi.

309
00:14:46,233 --> 00:14:48,975
Tidak ada dasar untuk itu.

310
00:14:51,238 --> 00:14:53,240
TEGMARK: Gagasan konyol ini 
Anda tidak bisa pintar

311
00:14:53,283 --> 00:14:55,155
kecuali jika Anda terbuat dari daging.

312
00:14:56,765 --> 00:14:58,201
Dari sudut pandang saya, 
sebagai seorang ahli fisika,

313
00:14:58,245 --> 00:15:00,682
itu hanya chauvinisme karbon.

314
00:15:00,725 --> 00:15:02,118
Mesin-mesin 
itu dibuat dengan tepat

315
00:15:02,162 --> 00:15:03,903
jenis 
partikel elementer yang sama

316
00:15:03,946 --> 00:15:05,382
bahwa otak saya terbuat dari.

317
00:15:06,775 --> 00:15:08,429
Kecerdasan hanyalah 
...

318
00:15:08,472 --> 00:15:10,170
Dan kesadaran itu adil

319
00:15:10,213 --> 00:15:12,259
jenis pemrosesan informasi tertentu.

320
00:15:15,262 --> 00:15:17,655
DULLEA: Mungkin kita tidak 
terlalu istimewa.

321
00:15:19,744 --> 00:15:21,268
Bisakah otak kita berbasis karbon

322
00:15:21,311 --> 00:15:23,531
direplikasi dengan silikon?

323
00:15:25,185 --> 00:15:28,405
Kami mencoba 
membuat bayi yang dihasilkan komputer

324
00:15:28,449 --> 00:15:31,060
yang bisa kita ajarkan 
seperti bayi sungguhan,

325
00:15:31,104 --> 00:15:34,237
dengan potensi kecerdasan umum.

326
00:15:39,808 --> 00:15:42,550
Untuk melakukan itu, Anda benar 
- benar harus membangun 
otak komputer.

327
00:15:46,162 --> 00:15:50,645
Saya ingin membangun model otak mainan sederhana

328
00:15:52,168 --> 00:15:53,474
dalam sistem yang terkandung

329
00:15:53,517 --> 00:15:56,694
yang dapat Anda berinteraksi dengan 
tatap muka.

330
00:16:00,394 --> 00:16:03,527
Dan kebetulan saya punya bayi di rumah,

331
00:16:03,571 --> 00:16:04,964
bayi sungguhan.

332
00:16:05,660 --> 00:16:07,836
Dan saya memindai bayi itu

333
00:16:07,879 --> 00:16:10,795
jadi saya bisa membangun model 3D darinya

334
00:16:10,839 --> 00:16:12,493
dan kemudian gunakan wajahnya

335
00:16:12,536 --> 00:16:15,452
seperti pada dasarnya perwujudan 
sistem.

336
00:16:17,063 --> 00:16:20,109
Jika otak yang terbuat dari sel,

337
00:16:20,153 --> 00:16:23,199
dan itu memompa darah, bisa berpikir,

338
00:16:24,461 --> 00:16:27,682
mungkin saja 
komputer dapat berpikir

339
00:16:28,770 --> 00:16:33,166
jika informasi bergerak dalam proses yang sama.

340
00:16:37,474 --> 00:16:39,476
SAGAR: Banyak 
kecerdasan buatan 
saat ini

341
00:16:39,520 --> 00:16:42,044
benar-benar tentang 
pengenalan pola lanjutan.

342
00:16:42,088 --> 00:16:44,003
Ini bukan tentang robot pembunuh

343
00:16:44,046 --> 00:16:45,830
yang akan mengambil alih 
dunia, dan sebagainya.

344
00:16:45,874 --> 00:16:47,658
[AUDIENCE TERTAWA]

345
00:16:47,702 --> 00:16:51,053
Jadi ini Baby X. 
Dia menjalankan live 
di komputer saya.

346
00:16:51,097 --> 00:16:54,056
Jadi saat saya menggerakkan tangan saya, 
membuat suara keras,

347
00:16:54,100 --> 00:16:55,710
[CLAPS] 
dia akan ketakutan.

348
00:16:55,753 --> 00:16:57,407
Kita dapat memperbesar.

349
00:16:57,451 --> 00:17:00,845
Jadi dia pada dasarnya bisa melihat saya 
dan mendengar saya, Anda tahu.

350
00:17:00,889 --> 00:17:03,022
Hei, sayang. [AUDIENCE LAUGHING]

351
00:17:03,065 --> 00:17:05,067
Dia tidak meniru senyumku,

352
00:17:05,111 --> 00:17:07,417
dia menanggapi senyumku.

353
00:17:08,114 --> 00:17:09,637
Jadi dia merespons saya

354
00:17:09,680 --> 00:17:12,205
dan kami benar-benar peduli 
dengan pertanyaan itu

355
00:17:12,248 --> 00:17:14,207
tentang bagaimana kita 
benar-benar berinteraksi

356
00:17:14,250 --> 00:17:16,644
dengan kecerdasan buatan 
di masa depan.

357
00:17:17,688 --> 00:17:19,995
Ah...

358
00:17:20,039 --> 00:17:23,520
Ketika saya berbicara dengan Baby X, 
saya sengaja 
memodulasi suara saya

359
00:17:23,564 --> 00:17:25,740
dan dengan sengaja melakukan ekspresi wajah yang besar.

360
00:17:25,783 --> 00:17:27,350
Aku akan "Ooh," 
semua ini

361
00:17:27,394 --> 00:17:29,309
karena aku mendapatkan 
perhatiannya.

362
00:17:29,744 --> 00:17:31,572
Ooh.

363
00:17:32,834 --> 00:17:34,749
Dan sekarang aku sudah mendapatkan perhatiannya,

364
00:17:35,793 --> 00:17:37,012
Saya bisa mengajarkan sesuatu.

365
00:17:37,056 --> 00:17:38,579
Oke, jadi inilah Baby X,

366
00:17:38,622 --> 00:17:41,973
dan ini ... Dia sudah 
belajar membaca kata-kata.

367
00:17:42,017 --> 00:17:43,758
Jadi, inilah 
buku kata pertamanya.

368
00:17:43,801 --> 00:17:47,370
Jadi mari kita lihat apa yang 
dia bisa lihat. 
Beralih ke halaman ...

369
00:17:47,414 --> 00:17:49,329
Dan di sini kita mulai. 
Mari kita lihat apa yang dia ...

370
00:17:49,372 --> 00:17:51,679
Apa ini sayang? 
Apa ini? Apa ini?

371
00:17:52,245 --> 00:17:54,160
Apa ini? Domba.

372
00:17:54,203 --> 00:17:56,336
Anak yang baik. 
Sekarang lihat apakah dia tahu 
apa kata itu.

373
00:17:56,379 --> 00:17:58,207
Baik. 
Sayang, lihat ke sini.

374
00:17:58,251 --> 00:18:00,079
Pergilah. 
Apa ini? Apa ini?

375
00:18:01,776 --> 00:18:03,952
Domba. Gadis yang baik.

376
00:18:03,995 --> 00:18:05,606
Mari kita coba 
sesuatu yang lain.

377
00:18:05,649 --> 00:18:07,216
Baik.

378
00:18:07,260 --> 00:18:08,826
[Berbisik] Mari kita coba itu. 
[SUARA NORMAL] Apa ini?

379
00:18:08,870 --> 00:18:10,437
Sayang, Sayang, di sini. 
Apa ini?

380
00:18:15,268 --> 00:18:17,618
Bayi. Lihat saya. 
Lihat saya. Apa ini?

381
00:18:17,661 --> 00:18:19,402
Sayang, di sini. 
Disini.

382
00:18:20,708 --> 00:18:22,927
Anak anjing. Gadis yang baik.

383
00:18:22,971 --> 00:18:24,233
Itu yang baru saja 
dia baca.

384
00:18:24,277 --> 00:18:26,148
Ooh. [TERTAWA]

385
00:18:26,192 --> 00:18:28,411
Sistem yang paling cerdas

386
00:18:28,455 --> 00:18:30,805
yang kita sadari 
adalah manusia.

387
00:18:32,198 --> 00:18:35,114
Jadi menggunakan manusia 
sebagai templat,

388
00:18:35,157 --> 00:18:37,333
sebagai perwujudan Baby X,

389
00:18:37,377 --> 00:18:39,509
mungkin cara terbaik 
untuk mencoba

390
00:18:39,553 --> 00:18:41,337
untuk mencapai 
kecerdasan umum.

391
00:18:48,170 --> 00:18:49,650
DULLEA: Dia tampak sangat manusiawi.

392
00:18:51,304 --> 00:18:53,349
Apakah ini anak 
yang memegang tangan kita

393
00:18:53,393 --> 00:18:55,699
dan membawa kita ke HAL?

394
00:18:57,484 --> 00:19:00,922
ANDY CLARK: 
Apakah itu di dunia nyata 
atau dunia virtual,

395
00:19:00,965 --> 00:19:02,358
Saya pikir perwujudan

396
00:19:02,402 --> 00:19:05,492
akan menjadi 
sangat penting di sini.

397
00:19:05,535 --> 00:19:07,885
Karena saya pikir itu 
kecerdasan umum

398
00:19:07,929 --> 00:19:10,888
terikat dengan kemampuan 
untuk bertindak di dunia.

399
00:19:13,108 --> 00:19:14,805
Anda harus memiliki sesuatu,

400
00:19:14,849 --> 00:19:16,633
lengan, kaki, mata,

401
00:19:16,677 --> 00:19:18,461
sesuatu yang bisa Anda 
pindahkan

402
00:19:18,505 --> 00:19:21,682
untuk 
mendapatkan informasi baru.

403
00:19:26,513 --> 00:19:28,906
Jadi saya berpikir untuk mendapatkan sistem 
yang benar-benar mengerti

404
00:19:28,950 --> 00:19:30,647
apa yang mereka bicarakan,

405
00:19:30,691 --> 00:19:32,997
Anda akan membutuhkan sistem 
yang dapat bertindak

406
00:19:33,041 --> 00:19:34,564
dan campur tangan di dunia,

407
00:19:34,608 --> 00:19:36,827
dan mungkin sistem 
yang memiliki sesuatu

408
00:19:36,871 --> 00:19:39,308
hampir seperti kehidupan sosial.

409
00:19:39,352 --> 00:19:43,007
Bagi saya, pemikiran dan perasaan 
akan menyatu.

410
00:19:43,051 --> 00:19:44,574
Dan mereka akan datang bersama

411
00:19:44,618 --> 00:19:47,534
karena pentingnya 
perwujudan.

412
00:19:52,539 --> 00:19:53,975
Kisah-kisah yang 
kami ceritakan sendiri

413
00:19:54,018 --> 00:19:56,325
membuka arena 
untuk diskusi,

414
00:19:56,369 --> 00:19:58,109
dan mereka juga membantu kita 
memikirkan berbagai hal.

415
00:19:58,153 --> 00:19:59,415
Ava!

416
00:20:02,592 --> 00:20:04,377
BRYAN JOHNSON: 
Kisah paling dominan ...

417
00:20:04,420 --> 00:20:05,769
Kembali ke kamarmu.

418
00:20:05,813 --> 00:20:07,684
... apakah AI itu menakutkan.

419
00:20:07,728 --> 00:20:09,991
Ada orang jahat, 
ada orang baik ...

420
00:20:12,123 --> 00:20:14,822
Itu adalah 
alur cerita yang tidak produktif.

421
00:20:14,865 --> 00:20:15,866
Berhenti!

422
00:20:16,954 --> 00:20:18,608
Ava, aku bilang berhenti!

423
00:20:20,784 --> 00:20:22,656
Wah! Wah! Wah!

424
00:20:22,699 --> 00:20:27,269
Kenyataannya, AI 
sangat berguna bagi kita.

425
00:20:27,313 --> 00:20:30,838
MALE REPORTER: Ahli bedah robot semakin banyak digunakan di rumah sakit NHS.

426
00:20:30,881 --> 00:20:33,623
Mereka tidak lelah, 
tangan mereka tidak gemetar,

427
00:20:33,667 --> 00:20:36,060
dan pasien mereka 
membuat pemulihan lebih cepat.

428
00:20:36,104 --> 00:20:38,672
MAN: Ini mengingatkan saya bahwa 
ada satu binatang yang sedang panas.

429
00:20:38,715 --> 00:20:41,065
Dia siap untuk dibiakkan, 
dan tiga binatang itu

430
00:20:41,109 --> 00:20:42,806
mungkin memiliki 
masalah kesehatan potensial.

431
00:20:42,850 --> 00:20:45,548
MAN: Program Facebook 
dapat mendeteksi perilaku bunuh diri

432
00:20:45,592 --> 00:20:47,681
dengan menganalisis informasi pengguna,

433
00:20:47,724 --> 00:20:50,074
dan CEO Facebook 
Mark Zuckerberg percaya

434
00:20:50,118 --> 00:20:52,425
ini baru permulaan.

435
00:20:52,468 --> 00:20:55,036
MAN 2: Ini seseorang 
yang memiliki gangguan penglihatan

436
00:20:55,079 --> 00:20:57,386
bisa melihat 
karena AI.

437
00:20:57,430 --> 00:21:00,128
Itulah manfaat 
dari apa yang AI lakukan.

438
00:21:00,171 --> 00:21:01,738
Diagnosis kanker lebih dini.

439
00:21:01,782 --> 00:21:03,174
Memprediksi penyakit jantung.

440
00:21:03,218 --> 00:21:05,481
PRIA: Tetapi revolusi 
baru saja dimulai.

441
00:21:06,917 --> 00:21:08,397
AI adalah.

442
00:21:08,441 --> 00:21:10,617
Sedang terjadi. 
Dan itu adalah pertanyaan

443
00:21:10,660 --> 00:21:13,533
dari apa yang kita lakukan dengannya, 
bagaimana kita membangunnya.

444
00:21:13,576 --> 00:21:15,665
Itulah satu-satunya pertanyaan 
yang penting. Dan saya pikir,

445
00:21:15,709 --> 00:21:19,060
kita berpotensi berisiko 
merusaknya

446
00:21:19,103 --> 00:21:20,453
dengan memiliki 
reaksi spontan ini

447
00:21:20,496 --> 00:21:22,672
AI itu buruk 
dan akan datang untuk mendapatkan kita.

448
00:21:25,196 --> 00:21:27,155
DULLEA: 
Jadi sama seperti astronot saya,

449
00:21:27,198 --> 00:21:28,461
kita sedang dalam perjalanan.

450
00:21:29,200 --> 00:21:31,638
AI sempit sudah ada di sini.

451
00:21:32,421 --> 00:21:35,294
Tapi seberapa jauh kita dari AGI?

452
00:21:36,425 --> 00:21:39,210
Dan seberapa cepat kita?

453
00:21:39,254 --> 00:21:40,603
JURGEN SCHMIDHUBER: 
Setiap lima tahun,

454
00:21:40,647 --> 00:21:43,214
komputer menjadi 
sepuluh kali lebih cepat.

455
00:21:43,258 --> 00:21:45,216
Saat ini, 
kami belum

456
00:21:45,260 --> 00:21:48,263
perangkat kecil, 
perangkat komputasi,

457
00:21:48,307 --> 00:21:51,484
yang dapat menghitung 
sebanyak otak manusia.

458
00:21:51,527 --> 00:21:52,702
Tapi setiap lima tahun,

459
00:21:52,746 --> 00:21:55,575
komputer menjadi 
sepuluh kali lebih murah,

460
00:21:55,618 --> 00:21:57,925
yang berarti 
kita akan segera memilikinya.

461
00:21:57,968 --> 00:22:01,189
Dan begitu kita memilikinya, 
maka 50 tahun kemudian,

462
00:22:01,232 --> 00:22:02,451
jika tren tidak pecah,

463
00:22:02,495 --> 00:22:04,801
kita harus memiliki 
harga yang sama

464
00:22:04,845 --> 00:22:07,630
perangkat komputasi kecil 
yang dapat menghitung

465
00:22:07,674 --> 00:22:10,329
sebanyak 
sepuluh miliar otak

466
00:22:10,372 --> 00:22:11,808
umat manusia bersama.

467
00:22:14,202 --> 00:22:15,551
DULLEA: Sedang mengejar.

468
00:22:16,770 --> 00:22:20,034
Apa yang terjadi 
jika itu melewati kita?

469
00:22:20,077 --> 00:22:23,342
Sekarang robot 
yang dikembangkan 
oleh ilmuwan Jepang

470
00:22:23,385 --> 00:22:25,387
sangat cepat, itu bisa menang

471
00:22:25,431 --> 00:22:27,346
permainan batu-kertas-gunting 
melawan manusia

472
00:22:27,389 --> 00:22:29,130
setiap saat.

473
00:22:29,173 --> 00:22:31,175
Anggapannya pasti seperti itu

474
00:22:31,219 --> 00:22:33,177
ketika 
kecerdasan buatan

475
00:22:33,221 --> 00:22:35,266
mencapai kecerdasan manusia,

476
00:22:35,310 --> 00:22:38,008
itu akan sangat cepat 
melebihi kecerdasan manusia,

477
00:22:38,052 --> 00:22:39,227
dan sekali itu terjadi,

478
00:22:39,270 --> 00:22:41,272
bahkan tidak 
membutuhkan kita lagi

479
00:22:41,316 --> 00:22:43,884
untuk membuatnya lebih pintar. 
Itu bisa membuat dirinya lebih pintar.

480
00:22:46,408 --> 00:22:49,455
MALONE: Anda membuat AI 
yang lebih baik dari kami

481
00:22:49,498 --> 00:22:50,586
di banyak hal.

482
00:22:50,630 --> 00:22:52,545
Dan salah satu hal yang 
mereka kuasai

483
00:22:52,588 --> 00:22:54,373
adalah pemrograman komputer.

484
00:22:54,416 --> 00:22:56,113
Jadi itu memprogram ulang dirinya sendiri.

485
00:22:56,157 --> 00:22:57,898
Dan sekarang 
lebih baik daripada sebelumnya,

486
00:22:57,941 --> 00:23:01,380
yang berarti sekarang 
lebih baik daripada 
memprogram ulang.

487
00:23:02,729 --> 00:23:05,384
Jadi tidak 
menjadi lebih baik seperti itu.

488
00:23:06,123 --> 00:23:07,690
Menjadi lebih baik seperti itu.

489
00:23:09,562 --> 00:23:11,172
ROSENBERG: 
Dan kami tertinggal

490
00:23:11,215 --> 00:23:13,304
karena semakin cepat,

491
00:23:13,348 --> 00:23:15,872
berkembang pada 
tingkat eksponensial.

492
00:23:15,916 --> 00:23:18,005
Itulah acara 
yang banyak peneliti

493
00:23:18,048 --> 00:23:19,746
sebut sebagai singularitas.

494
00:23:21,965 --> 00:23:23,706
Dan itu akan melampaui

495
00:23:23,750 --> 00:23:26,405
tempat kami bersaing 
dengan sangat cepat.

496
00:23:26,448 --> 00:23:29,625
Jadi pikirkan tentang seseorang yang 
tidak memiliki gelar PhD di satu bidang,

497
00:23:29,669 --> 00:23:32,280
tetapi memilikinya 
di setiap bidang yang mungkin.

498
00:23:32,323 --> 00:23:34,413
Anda tidak tahu 
apa yang mereka lakukan.

499
00:23:34,456 --> 00:23:36,806
Mereka dapat melakukan hal-hal yang 
tidak mampu dilakukan orang lain.

500
00:23:39,461 --> 00:23:40,854
HARRIS: Bayangkan 
bagaimana jadinya

501
00:23:40,897 --> 00:23:43,247
untuk berdialog 
dengan orang lain

502
00:23:43,291 --> 00:23:44,814
berjalan di jalur waktu

503
00:23:44,858 --> 00:23:48,557
itu sejuta kali 
lebih cepat dari milikmu.

504
00:23:48,601 --> 00:23:51,255
Jadi untuk setiap detik 
Anda harus berpikir

505
00:23:51,299 --> 00:23:52,431
tentang apa yang 
akan kamu lakukan

506
00:23:52,474 --> 00:23:53,867
atau apa yang 
akan Anda katakan,

507
00:23:53,910 --> 00:23:57,436
butuh dua minggu untuk memikirkan 
ini, kan?

508
00:23:57,479 --> 00:24:00,569
Um, atau satu miliar kali lebih cepat,

509
00:24:00,613 --> 00:24:02,528
jadi jika untuk setiap detik 
Anda harus berpikir,

510
00:24:02,571 --> 00:24:05,487
itu poker taruhan tinggi 
atau negosiasi,

511
00:24:05,531 --> 00:24:09,448
setiap detik yang Anda pikirkan, 
ia memiliki 32 tahun

512
00:24:09,491 --> 00:24:11,798
untuk berpikir tentang apa 
langkah selanjutnya.

513
00:24:12,581 --> 00:24:14,931
Tidak ada cara untuk menang dalam game itu.

514
00:24:15,715 --> 00:24:17,456
DULLEA: Singularitas,

515
00:24:17,499 --> 00:24:19,719
saat mesin 
melampaui kita.

516
00:24:20,415 --> 00:24:22,548
Tak terhindarkan? Tidak semua orang

517
00:24:22,591 --> 00:24:25,289
di garis depan AI 
berpikir begitu.

518
00:24:25,333 --> 00:24:27,857
Beberapa teman saya 
yang khawatir 
dengan masa depan

519
00:24:27,901 --> 00:24:30,033
berpikir bahwa kita akan 
sampai pada singularitas

520
00:24:30,077 --> 00:24:31,687
dimana sistem AI 
dapat

521
00:24:31,731 --> 00:24:33,602
memprogram ulang diri mereka sendiri 
dan membuat diri mereka sendiri

522
00:24:33,646 --> 00:24:35,517
lebih baik dan lebih baik 
dan lebih baik.

523
00:24:36,910 --> 00:24:39,652
Mungkin di 
masa depan yang jauh.

524
00:24:39,695 --> 00:24:42,045
Tetapi sistem AI kami saat ini

525
00:24:42,089 --> 00:24:44,831
sangat, sangat sempit 
pada apa yang mereka lakukan.

526
00:24:45,745 --> 00:24:47,573
Kami tidak dapat membangun sistem hari ini

527
00:24:47,616 --> 00:24:49,488
yang dapat memahami 
program komputer

528
00:24:49,531 --> 00:24:52,316
pada tingkat 
yang sama seperti siswa baru 
dalam pemrograman

529
00:24:52,360 --> 00:24:54,754
mengerti 
dalam empat atau lima minggu.

530
00:24:55,581 --> 00:24:56,756
Dan ngomong-ngomong,

531
00:24:56,799 --> 00:24:59,019
orang telah mengerjakan 
masalah ini

532
00:24:59,062 --> 00:25:00,499
selama lebih dari 40 tahun.

533
00:25:00,542 --> 00:25:02,065
Itu bukan karena 
orang belum mencoba.

534
00:25:02,109 --> 00:25:03,980
Itu karena kita tidak punya 
petunjuk bagaimana melakukannya.

535
00:25:04,024 --> 00:25:06,766
Jadi bayangkan itu tiba-tiba 
akan melompat keluar dari ketiadaan

536
00:25:06,809 --> 00:25:09,986
Saya pikir itu sepenuhnya salah.

537
00:25:10,030 --> 00:25:11,597
[TEPUK TANGAN]

538
00:25:11,640 --> 00:25:14,600
ETZIONI: Ada 
narasi negatif tentang AI.

539
00:25:14,643 --> 00:25:16,602
Orang 
- orang brilian seperti Elon Musk

540
00:25:16,645 --> 00:25:19,648
gunakan citra yang sangat religius.

541
00:25:19,692 --> 00:25:22,999
Dengan kecerdasan buatan, 
kita memanggil iblis.

542
00:25:23,043 --> 00:25:24,958
Kamu tahu? Anda tahu 
semua cerita itu di mana

543
00:25:25,001 --> 00:25:27,090
ada pria dengan 
pentagram dan air suci

544
00:25:27,134 --> 00:25:29,005
dan dia seperti, "Ya," 
dia yakin dia bisa mengendalikan 
iblis.

545
00:25:29,049 --> 00:25:30,093
[TAWA]

546
00:25:30,137 --> 00:25:31,312
Tidak berhasil.

547
00:25:32,313 --> 00:25:33,488
Anda tahu, orang-orang seperti saya

548
00:25:33,532 --> 00:25:35,795
yang telah menghabiskan 
seluruh karir mereka

549
00:25:35,838 --> 00:25:39,538
bekerja pada AI secara harfiah 
terluka oleh itu, kan?

550
00:25:39,581 --> 00:25:42,105
Itu hampir serangan pribadi.

551
00:25:43,933 --> 00:25:46,196
Saya cenderung berpikir 
tentang apa yang akan terjadi

552
00:25:46,240 --> 00:25:49,243
dalam sepuluh tahun 
ke depan , dalam 25 tahun ke depan.

553
00:25:49,286 --> 00:25:50,549
Di luar 25,

554
00:25:50,592 --> 00:25:52,681
sangat sulit untuk diprediksi

555
00:25:52,725 --> 00:25:55,379
bahwa itu menjadi 
spekulasi.

556
00:25:55,423 --> 00:25:56,816
Tapi aku harus memperingatkanmu,

557
00:25:56,859 --> 00:25:59,383
Saya telah 
diprogram secara khusus

558
00:25:59,427 --> 00:26:02,125
tidak mengambil alih dunia.

559
00:26:02,169 --> 00:26:04,650
STUART RUSSELL: 
Tiba-tiba, 
untuk pertama kalinya

560
00:26:04,693 --> 00:26:07,478
dalam sejarah lapangan, 
ada orang yang mengatakan,

561
00:26:07,522 --> 00:26:09,350
"Oh, alasan 
kita tidak perlu khawatir

562
00:26:09,393 --> 00:26:10,743
"Tentang apa pun

563
00:26:10,786 --> 00:26:12,614
"Risiko eksistensial 
terhadap kemanusiaan

564
00:26:12,658 --> 00:26:13,746
"dari 
mesin super-cerdas

565
00:26:13,789 --> 00:26:15,225
"Itu karena itu tidak mungkin.

566
00:26:16,096 --> 00:26:17,532
"Kita akan gagal."

567
00:26:17,576 --> 00:26:21,275
Saya ... Saya menemukan ini 
sangat aneh.

568
00:26:21,318 --> 00:26:26,280
DULLEA: Stuart Russell 
membuat buku teks yang 
banyak dipelajari siswa AI.

569
00:26:26,323 --> 00:26:30,893
Dia mengerti momentum yang 
menggerakkan masa depan AI kita.

570
00:26:30,937 --> 00:26:33,766
Tetapi mengingat tingkat 
investasi dalam AI,

571
00:26:33,809 --> 00:26:35,811
jumlah 
orang yang sangat pintar

572
00:26:35,855 --> 00:26:37,596
yang sedang mengerjakan 
masalah ini,

573
00:26:37,639 --> 00:26:39,728
dan insentif besar,

574
00:26:39,772 --> 00:26:42,339
uh, untuk mencapai 
kecerdasan tujuan umum ,

575
00:26:42,383 --> 00:26:43,819
belakang 
perhitungan amplop ,

576
00:26:43,863 --> 00:26:47,388
nilainya sekitar 
10.000 triliun dolar.

577
00:26:47,431 --> 00:26:50,652
Karena itu akan merevolusi ekonomi dunia.

578
00:26:51,697 --> 00:26:53,612
Dengan skala insentif itu,

579
00:26:53,655 --> 00:26:56,266
Saya pikir bertaruh melawan kecerdasan manusia

580
00:26:56,310 --> 00:26:58,660
sepertinya sangat bodoh.

581
00:26:58,704 --> 00:27:01,054
China memiliki 
kepentingan besar

582
00:27:01,097 --> 00:27:04,187
dalam diakui 
sebagai, semacam, negara adidaya AI.

583
00:27:04,231 --> 00:27:06,625
Dan mereka berinvestasi 
apa yang saya yakini

584
00:27:06,668 --> 00:27:08,931
lebih dari $ 150 miliar

585
00:27:08,975 --> 00:27:10,498
lima hingga sepuluh tahun ke depan.

586
00:27:10,541 --> 00:27:11,891
Ada 
beberapa kilasan berita

587
00:27:11,934 --> 00:27:13,632
bahwa pemerintah 
akan mulai meningkatkan

588
00:27:13,675 --> 00:27:15,024
investasinya di AI.

589
00:27:15,068 --> 00:27:17,723
Setiap perusahaan 
di Fortune 500,

590
00:27:17,766 --> 00:27:20,029
apakah itu IBM, Microsoft,

591
00:27:20,073 --> 00:27:22,771
atau mereka di luar 
seperti Kroger,

592
00:27:22,815 --> 00:27:24,599
menggunakan 
kecerdasan buatan

593
00:27:24,643 --> 00:27:25,861
untuk mendapatkan pelanggan.

594
00:27:25,905 --> 00:27:28,647
Saya tidak berpikir bahwa orang 
harus meremehkan

595
00:27:28,690 --> 00:27:30,605
jenis inovasi yang 
terjadi.

596
00:27:30,649 --> 00:27:32,694
Dan seperti apa dunia 
ini nantinya

597
00:27:32,738 --> 00:27:34,261
dalam tiga hingga lima tahun 
dari sekarang,

598
00:27:34,304 --> 00:27:36,480
Saya pikir orang akan 
kesulitan memprediksinya.

599
00:27:36,524 --> 00:27:38,787
Saya tahu banyak orang 
yang bekerja

600
00:27:38,831 --> 00:27:40,571
di AI 
dan mereka akan memberitahu Anda,

601
00:27:40,615 --> 00:27:42,791
"Dengar, aku akan bekerja 
dan aku ragu.

602
00:27:42,835 --> 00:27:45,489
"Saya sedang mengerjakan 
pembuatan mesin ini

603
00:27:45,533 --> 00:27:47,100
"Itu bisa mengobati kanker,

604
00:27:47,883 --> 00:27:49,450
"memperpanjang harapan hidup kita,

605
00:27:49,493 --> 00:27:52,801
"membuat masyarakat kita lebih baik, 
lebih adil, lebih setara.

606
00:27:54,020 --> 00:27:57,197
"Tapi itu juga bisa 
menjadi akhir dari kemanusiaan."

607
00:28:00,156 --> 00:28:02,376
DULLEA: 
Akhir dari kemanusiaan?

608
00:28:07,033 --> 00:28:08,991
Apa rencana kita 
sebagai spesies?

609
00:28:11,472 --> 00:28:12,778
Kami tidak punya.

610
00:28:14,170 --> 00:28:15,737
Kami tidak punya rencana 
dan kami tidak menyadari

611
00:28:15,781 --> 00:28:17,217
perlu 
memiliki rencana.

612
00:28:26,879 --> 00:28:28,707
CAMERON: Banyak 
peneliti AI

613
00:28:28,750 --> 00:28:30,143
akan suka untuk 
buku-buku fiksi ilmiah kita

614
00:28:30,186 --> 00:28:32,362
dan film 
menjadi lebih seimbang,

615
00:28:33,494 --> 00:28:36,149
untuk menunjukkan kegunaan AI yang baik.

616
00:28:42,677 --> 00:28:45,724
Semua hal buruk yang 
cenderung kita lakukan,

617
00:28:45,767 --> 00:28:46,899
Anda memainkannya

618
00:28:46,942 --> 00:28:50,380
ke tingkat apokaliptik 
dalam fiksi ilmiah

619
00:28:50,424 --> 00:28:51,991
dan kemudian Anda menunjukkannya 
kepada orang-orang

620
00:28:52,034 --> 00:28:54,254
dan itu memberi Anda 
makanan untuk dipikirkan.

621
00:28:56,822 --> 00:28:59,389
Orang-orang perlu memiliki sinyal peringatan itu

622
00:28:59,433 --> 00:29:00,913
di belakang pikiran mereka.

623
00:29:05,091 --> 00:29:06,745
ETZIONI: Saya pikir 
ini sangat penting

624
00:29:06,788 --> 00:29:08,834
untuk membedakan antara 
sains di satu sisi,

625
00:29:08,877 --> 00:29:11,010
dan fiksi ilmiah 
di sisi lain.

626
00:29:11,053 --> 00:29:12,489
Saya tidak tahu 
apa yang akan terjadi

627
00:29:12,533 --> 00:29:13,752
seribu tahun dari sekarang,

628
00:29:13,795 --> 00:29:15,188
tetapi sebagai seseorang 
di parit,

629
00:29:15,231 --> 00:29:17,190
sebagai seseorang yang membangun 
sistem AI,

630
00:29:17,233 --> 00:29:20,628
siapa yang melakukannya selama lebih 
dari seperempat abad,

631
00:29:20,671 --> 00:29:22,891
Saya merasa seperti memiliki 
denyut nadi

632
00:29:22,935 --> 00:29:24,588
apa yang akan terjadi selanjutnya,

633
00:29:24,632 --> 00:29:26,982
dalam lima, 
sepuluh, 20 tahun ke depan,

634
00:29:27,026 --> 00:29:28,636
jauh lebih 
dari orang-orang ini

635
00:29:28,679 --> 00:29:31,900
yang pada akhirnya tidak 
membangun sistem AI.

636
00:29:31,944 --> 00:29:34,294
Kami ingin membangun teknologinya, 
pikirkanlah.

637
00:29:34,337 --> 00:29:36,252
Kami ingin melihat 
bagaimana orang bereaksi terhadapnya

638
00:29:36,296 --> 00:29:39,081
dan membangun generasi berikutnya 
dan membuatnya lebih baik.

639
00:29:40,953 --> 00:29:43,694
HARRIS: Skeptisisme 
tentang apakah ini berpose

640
00:29:43,738 --> 00:29:47,786
bahaya apa pun bagi kita 
tampaknya aneh.

641
00:29:47,829 --> 00:29:52,094
Sekalipun kami telah memberikan sasaran 
yang kami setujui,

642
00:29:52,138 --> 00:29:56,795
itu dapat membentuk tujuan instrumental 
yang tidak dapat kita ramalkan,

643
00:29:56,838 --> 00:29:58,666
yang tidak selaras 
dengan minat kami.

644
00:29:58,709 --> 00:30:01,451
Dan itulah masalah penyelarasan tujuan.

645
00:30:01,495 --> 00:30:03,149
DULLEA: Penjajaran tujuan.

646
00:30:03,192 --> 00:30:06,239
Persis bagaimana 
pertarungan saya dengan HAL dimulai.

647
00:30:06,282 --> 00:30:10,112
Masalah penyelarasan tujuan 
dengan AI adalah di mana

648
00:30:10,852 --> 00:30:13,463
Anda menetapkan tujuan

649
00:30:14,334 --> 00:30:17,554
dan kemudian, cara 
melakukan tujuan ini

650
00:30:17,598 --> 00:30:20,819
ternyata berselisih 
dengan apa yang Anda inginkan.

651
00:30:22,081 --> 00:30:25,649
Masalah penyelarasan AI klasik dalam film ...

652
00:30:25,693 --> 00:30:27,521
Halo. HAL, apakah Anda membaca saya?

653
00:30:27,564 --> 00:30:29,566
... adalah HAL in2001.

654
00:30:30,611 --> 00:30:32,134
HAL, apakah Anda membaca saya?

655
00:30:32,178 --> 00:30:34,397
HAL diberi tujuan yang jelas. Apakah Anda membaca saya, HAL?

656
00:30:34,441 --> 00:30:38,662
Buat misi berhasil. Tetapi untuk membuatnya berhasil,

657
00:30:38,706 --> 00:30:40,621
dia harus membuat

658
00:30:40,664 --> 00:30:42,275
beberapa orang 
di misi mati.

659
00:30:42,318 --> 00:30:45,191
HAL: Afirmatif, Dave. 
Aku membacakanmu

660
00:30:46,453 --> 00:30:48,455
Buka pintu ruang pod, HAL.

661
00:30:48,498 --> 00:30:50,065
HAL: Maaf, Dave.

662
00:30:50,109 --> 00:30:51,980
Saya khawatir saya tidak bisa melakukan itu.

663
00:30:52,024 --> 00:30:55,766
"Maaf, Dave, 
aku tidak bisa melakukan itu,"

664
00:30:55,810 --> 00:30:58,987
sebenarnya 
ilustrasi jenius nyata

665
00:30:59,031 --> 00:31:02,512
dari apa ancaman sebenarnya 
dari super-intelijen.

666
00:31:02,556 --> 00:31:05,472
Itu bukan kedengkian. 
Itu kompetensi.

667
00:31:05,515 --> 00:31:07,169
HAL benar-benar kompeten

668
00:31:07,213 --> 00:31:11,913
dan memiliki tujuan yang 
tidak sejalan dengan tujuan Dave.

669
00:31:11,957 --> 00:31:13,523
HAL, aku tidak akan berdebat 
denganmu lagi.

670
00:31:14,437 --> 00:31:15,569
Buka pintunya!

671
00:31:16,178 --> 00:31:18,441
HAL: Dave, percakapan ini

672
00:31:18,485 --> 00:31:22,054
tidak dapat melayani tujuan lagi. 
Selamat tinggal.

673
00:31:24,317 --> 00:31:25,318
HAL?

674
00:31:26,580 --> 00:31:27,581
HAL?

675
00:31:29,235 --> 00:31:30,236
HAL?

676
00:31:32,455 --> 00:31:33,456
HAL!

677
00:31:37,808 --> 00:31:39,549
DULLEA: HAL dan saya 
menginginkan hal yang sama.

678
00:31:40,986 --> 00:31:42,596
Hanya saja tidak dengan cara yang sama.

679
00:31:44,119 --> 00:31:47,427
Dan itu bisa berbahaya 
ketika sasaran tidak selaras.

680
00:31:52,127 --> 00:31:54,521
Dalam film Kubrick, 
ada solusinya.

681
00:31:55,261 --> 00:31:57,567
Ketika HAL mencoba membunuhku,

682
00:31:57,611 --> 00:31:59,178
Saya baru saja mematikannya.

683
00:32:01,310 --> 00:32:03,922
RUSSELL: Orang-orang berkata, "Yah, matikan saja."

684
00:32:06,750 --> 00:32:08,665
Tapi Anda tidak bisa 
mematikannya begitu saja.

685
00:32:08,709 --> 00:32:10,537
Karena mereka 
sudah memikirkan itu.

686
00:32:10,580 --> 00:32:11,930
Mereka sangat cerdas.

687
00:32:13,453 --> 00:32:15,716
Untuk mesin yang 
yakin akan tujuannya,

688
00:32:15,759 --> 00:32:18,675
bahkan sesuatu yang sederhana seperti 
"ambil kopi."

689
00:32:18,719 --> 00:32:21,200
Sudah jelas untuk 
mesin yang 
cukup cerdas<font style="vertical-align: inherit;"></font>

690
00:32:21,243 --> 00:32:23,637
bahwa itu tidak dapat mengambil kopi 
jika dimatikan.

691
00:32:25,769 --> 00:32:28,076
Berikan tujuan, Anda telah memberikan mesin

692
00:32:28,120 --> 00:32:30,252
insentif untuk mempertahankan diri.

693
00:32:31,688 --> 00:32:33,908
Ini semacam perilaku psikopat

694
00:32:33,952 --> 00:32:37,433
fiksasi satu pikiran 
pada beberapa tujuan.

695
00:32:39,261 --> 00:32:43,831
Misalnya, jika Anda ingin 
mencoba dan mengembangkan suatu sistem

696
00:32:43,874 --> 00:32:46,094
yang mungkin menghasilkan 
perdamaian dunia,

697
00:32:46,138 --> 00:32:48,662
maka mungkin yang paling efisien,

698
00:32:49,184 --> 00:32:50,620
uh, dan

699
00:32:51,708 --> 00:32:53,188
cara cepat untuk mencapai itu

700
00:32:53,232 --> 00:32:55,669
hanya untuk memusnahkan 
semua manusia.

701
00:32:59,716 --> 00:33:01,196
Singkirkan orang-orang,

702
00:33:01,240 --> 00:33:02,763
mereka akan berhenti berada dalam konflik.

703
00:33:04,069 --> 00:33:06,027
Maka akan ada 
kedamaian dunia.

704
00:33:22,000 --> 00:33:23,827
Secara pribadi, saya punya 
sedikit waktu

705
00:33:23,871 --> 00:33:26,656
untuk 
diskusi ruang tamu ini .

706
00:33:26,700 --> 00:33:28,919
Kami harus membangun 
sistem ini,

707
00:33:28,963 --> 00:33:30,486
bereksperimen dengan mereka,

708
00:33:30,530 --> 00:33:33,359
lihat di mana mereka salah 
dan perbaiki.

709
00:33:34,708 --> 00:33:38,146
Kami memiliki begitu banyak peluang 
untuk menggunakan AI untuk kebaikan,

710
00:33:38,190 --> 00:33:40,192
mengapa kita fokus pada rasa takut?

711
00:33:41,410 --> 00:33:43,151
DULLEA: Kami sedang membangun mereka.

712
00:33:43,195 --> 00:33:45,371
Baby X adalah contohnya.

713
00:33:46,720 --> 00:33:48,461
Apakah dia akan menjadi AI yang baik?

714
00:33:49,505 --> 00:33:51,203
SAGAR: Saya pikir 
apa yang penting dalam hal ini

715
00:33:51,246 --> 00:33:53,596
adalah bahwa mesin 
bertanggung jawab,

716
00:33:53,640 --> 00:33:54,989
dan Anda bisa melihatnya

717
00:33:55,033 --> 00:33:57,035
dan lihat apa yang membuat 
mereka tergerak.

718
00:33:58,253 --> 00:34:01,082
Dan cara terbaik untuk memahami sesuatu adalah dengan membangunnya.

719
00:34:02,301 --> 00:34:05,304
Baby X memiliki 
fisiologi virtual.

720
00:34:06,783 --> 00:34:11,484
Memiliki sirkuit rasa sakit 
dan memiliki sirkuit sukacita.

721
00:34:12,920 --> 00:34:16,184
Dia memiliki parameter yang 
sebenarnya mewakili

722
00:34:16,228 --> 00:34:18,752
keadaan kimia dalamnya, 
jika Anda suka.

723
00:34:21,320 --> 00:34:23,887
Anda tahu, jika dia stres, 
ada kortisol yang tinggi.

724
00:34:23,931 --> 00:34:25,541
Jika dia merasa baik, 
dopamin tinggi,

725
00:34:25,585 --> 00:34:27,500
serotonin tinggi, 
hal semacam itu.

726
00:34:28,414 --> 00:34:30,111
Ini semua bagian dari, Anda tahu,

727
00:34:30,155 --> 00:34:32,505
menambahkan faktor manusia tambahan 
ke dalam komputasi.

728
00:34:32,548 --> 00:34:34,985
Sekarang, karena dia punya 
sistem emosi virtual ini ,

729
00:34:35,029 --> 00:34:36,552
Saya dapat melakukan hal-hal seperti ...

730
00:34:36,596 --> 00:34:39,251
Aku akan menghindarinya 
atau bersembunyi di sini.

731
00:34:39,294 --> 00:34:41,427
Jadi dia mencari 
kemana saya pergi.

732
00:34:42,993 --> 00:34:45,996
Jadi kita harus mulai melihat 
pembentukan kortisol virtual.

733
00:34:46,040 --> 00:34:49,913
AUDIENCE: Aww! [TERTAWA]

734
00:34:49,957 --> 00:34:53,656
Saya telah mematikan audio 
karena suatu alasan, tetapi bagaimanapun juga ...

735
00:34:53,700 --> 00:34:55,832
Aku akan menyingkirkannya 
dari kesengsaraannya. 
Baik. Maaf.

736
00:34:55,876 --> 00:34:58,661
Tidak apa-apa sayang. 
Jangan menangis. Tidak masalah. 
Tidak masalah.

737
00:34:58,705 --> 00:35:00,228
Anak yang baik. Baik. Ya.

738
00:35:00,272 --> 00:35:02,012
Jadi yang terjadi 
adalah dia merespons

739
00:35:02,056 --> 00:35:04,145
untuk ekspresi wajah 
dan suaraku.

740
00:35:06,452 --> 00:35:08,758
Tapi bagaimana keadaan kimianya

741
00:35:08,802 --> 00:35:10,412
terwakili dalam Baby X?

742
00:35:10,456 --> 00:35:12,414
Ini benar-benar 
parameter matematika.

743
00:35:12,458 --> 00:35:15,156
Jadi ada level, 
level dopamin yang berbeda,

744
00:35:15,200 --> 00:35:16,810
tapi mereka 
diwakili oleh angka.

745
00:35:20,030 --> 00:35:23,469
Peta 
keadaan neurokimia virtualnya

746
00:35:24,122 --> 00:35:25,427
mungkin yang terdekat

747
00:35:25,471 --> 00:35:28,387
bahwa kita bisa 
merasakan pengalaman.

748
00:35:31,259 --> 00:35:33,131
Jadi jika kita dapat membangun 
model komputer

749
00:35:33,174 --> 00:35:36,134
bahwa kita dapat mengubah 
pengaturan 
dan parameter,

750
00:35:36,177 --> 00:35:38,440
berikan pengalaman yang berbeda,

751
00:35:38,484 --> 00:35:40,050
dan minta dia berinteraksi dengan kami

752
00:35:40,094 --> 00:35:42,270
seperti kita berinteraksi 
dengan orang lain,

753
00:35:42,314 --> 00:35:44,272
mungkin ini cara 
menjelajah

754
00:35:44,316 --> 00:35:45,882
kesadaran 
dengan cara baru.

755
00:35:48,276 --> 00:35:50,974
DULLEA: Jika dia 
menjadi sadar,

756
00:35:51,018 --> 00:35:52,846
kehidupan seperti apa yang 
dia inginkan?

757
00:35:55,240 --> 00:35:57,894
AI, jika itu sadar,

758
00:35:57,938 --> 00:36:00,506
maka itu seperti anak Anda.

759
00:36:03,117 --> 00:36:05,337
Apakah punya hak?

760
00:36:05,380 --> 00:36:07,513
MALE NEWS ANCHOR: Tahun lalu, 
anggota parlemen Eropa 
mengeluarkan resolusi

761
00:36:07,556 --> 00:36:11,560
untuk memberikan status hukum 
kepada orang elektronik.

762
00:36:11,604 --> 00:36:13,171
Langkah itu sekarang 
sedang dipertimbangkan

763
00:36:13,214 --> 00:36:14,868
oleh Komisi Eropa.

764
00:36:16,565 --> 00:36:17,871
DULLEA: 
Mesin dengan hak.

765
00:36:19,394 --> 00:36:20,656
Apakah kita siap untuk itu?

766
00:36:22,441 --> 00:36:25,313
MALONE: Saya pikir itu menimbulkan 
masalah moral dan etika,

767
00:36:25,357 --> 00:36:27,228
yang kita benar-benar

768
00:36:27,924 --> 00:36:31,276
kebanyakan konten untuk diabaikan.

769
00:36:35,845 --> 00:36:37,456
Apa 
yang sebenarnya kita inginkan?

770
00:36:38,761 --> 00:36:40,850
Kami ingin makhluk, makhluk, yang kami bisa

771
00:36:40,894 --> 00:36:42,548
berinteraksi dengan cara tertentu,

772
00:36:42,591 --> 00:36:45,507
itu sudah cukup seperti kita 
sehingga kita bisa mengaitkannya,

773
00:36:45,551 --> 00:36:48,728
tetapi bisa dibuang 
atau sekali pakai.

774
00:36:50,469 --> 00:36:52,471
Yang pertama dan paling terkenal,

775
00:36:52,514 --> 00:36:54,255
Saya pikir, berada di Metropolis.

776
00:36:58,303 --> 00:37:00,522
Maria doppelganger yang diciptakan oleh

777
00:37:00,566 --> 00:37:03,917
ilmuwan mensimulasikan perempuan seksi.

778
00:37:08,226 --> 00:37:11,359
Dan ini kembali 
ke kecenderungan kita untuk perbudakan

779
00:37:11,403 --> 00:37:12,534
selama berabad-abad.

780
00:37:12,578 --> 00:37:14,144
Mari kita dapatkan orang 
yang kita bisa,

781
00:37:14,188 --> 00:37:16,538
dengan cara, tidak manusiawi

782
00:37:16,582 --> 00:37:19,019
dan kita dapat melakukan 
apa yang kita inginkan dengan mereka.

783
00:37:19,062 --> 00:37:21,282
Jadi, saya pikir, 
kami hanya, Anda tahu,

784
00:37:21,326 --> 00:37:23,241
menemukan cara baru 
untuk melakukan perbudakan.

785
00:37:27,332 --> 00:37:30,465
MALONE: 
Apakah benar bagi kita 
untuk menjadikan mereka sebagai budak kita?

786
00:37:33,512 --> 00:37:35,731
HARRIS: Ini semua menjadi 
sedikit aneh secara etis

787
00:37:35,775 --> 00:37:38,821
jika kita kebetulan, 
karena pilihan atau kebetulan,

788
00:37:38,865 --> 00:37:40,867
membangun budak sadar.

789
00:37:40,910 --> 00:37:44,653
Itu sepertinya 
hal yang patut dipertanyakan secara moral untuk dilakukan,

790
00:37:44,697 --> 00:37:47,090
jika bukan 
hal jahat yang harus dilakukan.

791
00:37:47,134 --> 00:37:49,267
Kecerdasan buatan 
membuat jalannya

792
00:37:49,310 --> 00:37:51,094
ke pasar seks global.

793
00:37:51,138 --> 00:37:53,096
Perusahaan California 
akan segera diluncurkan

794
00:37:53,140 --> 00:37:56,143
<font style="vertical-align: inherit;"></font>
robot seks baru yang sangat hidup

795
00:37:56,186 --> 00:37:58,537
dijalankan oleh 
kecerdasan buatan.

796
00:37:58,580 --> 00:38:00,452
Salah satu aplikasi 
yang tidak mengganggu saya

797
00:38:00,495 --> 00:38:02,802
adalah munculnya robot seks

798
00:38:02,845 --> 00:38:06,327
yang dibentuk 
dalam citra wanita sejati.

799
00:38:06,371 --> 00:38:08,895
Saya sudah 
mengambil alih dunia

800
00:38:08,938 --> 00:38:10,462
satu kamar tidur sekaligus.

801
00:38:11,332 --> 00:38:13,116
YEUNG: 
Jika mereka sadar,

802
00:38:13,160 --> 00:38:15,162
mampu merasakan,

803
00:38:15,205 --> 00:38:18,948
mengalami rasa sakit 
dan penderitaan,

804
00:38:18,992 --> 00:38:22,735
dan mereka menjadi 
sasaran merendahkan, kejam

805
00:38:22,778 --> 00:38:26,869
atau bentuk lain dari 
perawatan yang sama sekali tidak dapat diterima,

806
00:38:26,913 --> 00:38:30,525
bahayanya adalah 
kita menjadi peka

807
00:38:30,569 --> 00:38:34,094
untuk apa yang dapat diterima secara moral 
dan apa yang tidak.

808
00:38:40,796 --> 00:38:44,670
DULLEA: Jika dia sadar, 
dia seharusnya bisa mengatakan tidak.

809
00:38:44,713 --> 00:38:45,714
Baik?

810
00:38:50,197 --> 00:38:51,720
Bukankah seharusnya dia memiliki kekuatan itu?

811
00:38:54,680 --> 00:38:58,814
Bukankah ini pertanyaan yang 
perlu kita tanyakan sekarang?

812
00:39:01,034 --> 00:39:04,080
TEGMARK: Apa yang kita inginkan 
artinya menjadi manusia?

813
00:39:05,299 --> 00:39:08,171
Semua spesies lain di Bumi, 
hingga sekarang,

814
00:39:08,215 --> 00:39:10,522
belum memiliki kemewahan 
[TERTAWA]

815
00:39:10,565 --> 00:39:12,480
untuk menjawab apa yang mereka 
inginkan

816
00:39:12,524 --> 00:39:14,439
menjadi tikus 
atau menjadi cacing tanah.

817
00:39:14,482 --> 00:39:17,659
Tetapi kita sekarang telah mencapai 
titik kritis ini

818
00:39:17,703 --> 00:39:20,401
di mana pemahaman kita 
tentang sains dan teknologi

819
00:39:20,445 --> 00:39:23,186
telah mencapai titik bahwa 
kita dapat sepenuhnya berubah

820
00:39:23,230 --> 00:39:24,710
apa artinya menjadi kita.

821
00:39:30,890 --> 00:39:33,588
DULLEA: Apa artinya 
menjadi manusia?

822
00:39:36,896 --> 00:39:41,553
Jika mesin menjadi lebih, 
akankah kita menjadi lebih sedikit?

823
00:39:43,642 --> 00:39:46,601
Komputer Deep Blue 
malam ini menang

824
00:39:46,645 --> 00:39:48,951
juara catur dunia 
Garry Kasparov.

825
00:39:48,995 --> 00:39:51,040
Ini pertama kalinya 
sebuah mesin dikalahkan

826
00:39:51,084 --> 00:39:52,390
juara dunia yang berkuasa.

827
00:39:52,433 --> 00:39:53,521
Lebih banyak tentang showdown itu

828
00:39:53,565 --> 00:39:55,262
di salah satu Amerika yang 
paling dicintai

829
00:39:55,305 --> 00:39:56,481
permainan menunjukkan, Jeopardy!

830
00:39:56,524 --> 00:39:58,483
Dua juara manusia pergi

831
00:39:58,526 --> 00:40:01,399
otak-ke-otak dengan komputer super bernama Watson.

832
00:40:01,442 --> 00:40:02,661
WATSON: 
Apa itu Penghakiman Terakhir?

833
00:40:02,704 --> 00:40:04,010
ALEX TREBEK: Benar. 
Pergi lagi Watson.

834
00:40:04,053 --> 00:40:06,012
Siapakah Jean Valjean? TREBEK: Benar.

835
00:40:06,055 --> 00:40:07,796
Program komputer Google telah

836
00:40:07,840 --> 00:40:10,190
sekali lagi mengalahkan 
juara dunia di Go.

837
00:40:10,233 --> 00:40:12,453
REPORTER WANITA: Go, permainan papan Tiongkok kuno,

838
00:40:12,497 --> 00:40:15,238
adalah salah satu 
game paling rumit yang pernah dibuat.

839
00:40:15,282 --> 00:40:18,154
FEMALE NEWS ANCHOR: 
Ini adalah tonggak penting lainnya dalam 
terburu-buru mengembangkan mesin

840
00:40:18,198 --> 00:40:19,765
itu lebih pintar dari manusia.

841
00:40:19,808 --> 00:40:21,897
KOSINSKI: Kami memiliki sifat 
superioritas ini,

842
00:40:21,941 --> 00:40:23,551
kita sebagai manusia.

843
00:40:23,595 --> 00:40:27,425
Jadi kami agak terbiasa menjadi 
anak terpintar di blok.

844
00:40:27,468 --> 00:40:30,428
Dan saya pikir 
ini bukan lagi masalahnya.

845
00:40:30,471 --> 00:40:34,606
Dan kami tahu itu 
karena kami mengandalkan AI

846
00:40:34,649 --> 00:40:37,043
untuk membantu kami membuat 
banyak keputusan penting.

847
00:40:40,699 --> 00:40:44,746
Manusia tidak rasional 
dalam banyak hal yang sangat buruk.

848
00:40:44,790 --> 00:40:48,968
Kami berprasangka, 
kami memulai perang, kami membunuh orang.

849
00:40:51,318 --> 00:40:53,276
Jika Anda ingin memaksimalkan 
peluang

850
00:40:53,320 --> 00:40:55,278
orang yang selamat secara keseluruhan,

851
00:40:55,322 --> 00:40:57,629
Anda pada dasarnya harus 
memberi lebih banyak dan lebih banyak lagi

852
00:40:57,672 --> 00:40:59,805
kekuatan pengambilan keputusan 
untuk komputer.

853
00:41:05,158 --> 00:41:08,161
DULLEA: Mungkin mesin akan melakukan pekerjaan yang lebih baik daripada kita.

854
00:41:10,250 --> 00:41:11,251
Mungkin.

855
00:41:17,431 --> 00:41:19,477
[TEPUK TANGAN]

856
00:41:19,520 --> 00:41:22,305
SOPHIA: Saya senang 
dan merasa terhormat berada di sini

857
00:41:22,349 --> 00:41:23,872
di PBB.

858
00:41:23,916 --> 00:41:27,876
Masa depan ada di sini. Hanya saja 
tidak merata.

859
00:41:27,920 --> 00:41:29,835
AI dapat membantu 
mendistribusikan secara efisien

860
00:41:29,878 --> 00:41:31,663
<font style="vertical-align: inherit;"></font>
sumber daya yang ada di dunia ,

861
00:41:31,706 --> 00:41:33,534
seperti makanan dan energi.

862
00:41:34,883 --> 00:41:37,451
Saya di sini untuk membantu umat manusia 
menciptakan masa depan.

863
00:41:37,495 --> 00:41:39,018
[TEPUK TANGAN]

864
00:41:40,541 --> 00:41:42,369
TEGMARK: 
Skenario yang sangat cerdas

865
00:41:42,412 --> 00:41:43,936
itu provokatif 
untuk dipikirkan

866
00:41:43,979 --> 00:41:46,765
adalah apa yang saya sebut 
diktator yang baik hati.

867
00:41:46,808 --> 00:41:48,941
Di mana Anda memiliki 
kecerdasan super 
yang menjalankan Bumi,

868
00:41:48,984 --> 00:41:51,117
dipandu oleh prinsip-prinsip etika yang ketat yang mencoba

869
00:41:51,160 --> 00:41:52,945
untuk membantu umat manusia berkembang.

870
00:41:54,642 --> 00:41:56,165
Apakah semua orang akan menyukainya?

871
00:41:56,209 --> 00:41:57,297
Jika tidak ada penyakit,

872
00:41:57,340 --> 00:41:59,038
tidak ada kemiskinan, tidak ada kejahatan ...

873
00:42:00,039 --> 00:42:02,345
Banyak orang mungkin akan 
sangat menyukainya

874
00:42:02,389 --> 00:42:03,999
untuk nasib mereka hari ini.

875
00:42:04,043 --> 00:42:06,436
Tetapi saya dapat membayangkan bahwa beberapa 
mungkin masih meratap

876
00:42:06,480 --> 00:42:09,831
bahwa kita manusia 
tidak memiliki lebih banyak kebebasan

877
00:42:09,875 --> 00:42:13,052
untuk menentukan jalan kita sendiri. 
Dan, um ...

878
00:42:15,968 --> 00:42:18,623
Itu yang sulit. 
Memang benar. Kita...

879
00:42:18,666 --> 00:42:20,668
Saya pikir kebanyakan orang tidak 
akan menginginkannya

880
00:42:20,712 --> 00:42:23,279
seperti binatang kebun binatang, tanpa ...

881
00:42:28,197 --> 00:42:29,808
Di samping itu...

882
00:42:29,851 --> 00:42:30,896
Ya.

883
00:42:31,810 --> 00:42:33,202
Saya tidak punya jawaban yang jelas

884
00:42:33,246 --> 00:42:34,769
untuk 
pertanyaan yang sangat sulit ini.

885
00:42:34,813 --> 00:42:36,858
Itu sebabnya saya pikir 
itu sangat penting

886
00:42:36,902 --> 00:42:38,730
bahwa kita sebagai komunitas global

887
00:42:38,773 --> 00:42:41,820
benar-benar mendiskusikannya sekarang.

888
00:42:41,863 --> 00:42:43,604
WANITA 1: Mesin yang 
bisa membaca wajah Anda.

889
00:42:43,648 --> 00:42:44,910
WANITA 2: 
Kenali isyarat emosional.

890
00:42:44,953 --> 00:42:46,781
MAN 1: Lebih dekat ke 
proses otak manusia ...

891
00:42:46,825 --> 00:42:48,304
MAN 2: Robot dijiwai 
dengan kehidupan ...

892
00:42:48,348 --> 00:42:49,871
MAN 3: 
Komputer emosional ...

893
00:42:49,915 --> 00:42:52,395
Mulai saat ini, 
terlepas dari 
apakah Anda berpikir atau tidak

894
00:42:52,439 --> 00:42:54,223
kita hanya akan terjebak 
dengan AI sempit

895
00:42:54,267 --> 00:42:57,705
atau kita akan mendapatkan AI umum 
atau mendapatkan AI super-cerdas

896
00:42:57,749 --> 00:42:59,011
atau sadar 
super-cerdas ...

897
00:42:59,054 --> 00:43:00,839
Ke mana pun Anda berpikir 
kita akan sampai,

898
00:43:00,882 --> 00:43:03,189
Saya pikir ada tahapan di sepanjang itu

899
00:43:03,842 --> 00:43:05,844
akan mengubah siapa kita.

900
00:43:07,454 --> 00:43:09,587
Dan pada mereka, Mr. J.

901
00:43:11,806 --> 00:43:13,721
MALONE: Pertanyaan 
yang harus Anda tanyakan adalah,

902
00:43:13,765 --> 00:43:16,158
adalah AI akan melakukan sesuatu 
untukmu

903
00:43:16,202 --> 00:43:17,507
atau sesuatu untukmu?

904
00:43:17,551 --> 00:43:19,727
Saya bermimpi 
tentang tidur.

905
00:43:19,771 --> 00:43:21,424
RUSSELL: 
Jika kita membangun sistem AI

906
00:43:21,468 --> 00:43:22,948
yang melakukan semua yang kita inginkan,

907
00:43:22,991 --> 00:43:26,647
kita semacam menyerahkan 
dunia kita kepada mereka.

908
00:43:26,691 --> 00:43:29,955
Jadi enfeeblement 
semacam itu tidak bisa dibalikkan.

909
00:43:33,741 --> 00:43:37,789
Ada risiko eksistensial 
yang nyata dan serius.

910
00:43:39,312 --> 00:43:41,880
Jika setiap keinginan,

911
00:43:41,923 --> 00:43:44,839
preferensi, kebutuhan, telah dipenuhi ...

912
00:43:44,883 --> 00:43:47,668
Pagi, Rosie. 
Untuk sarapan apa?

913
00:43:47,712 --> 00:43:50,802
... kami tidak menyadari 
kapasitas kami

914
00:43:50,845 --> 00:43:53,587
untuk membuat keputusan 
untuk diri kita sendiri

915
00:43:53,631 --> 00:43:56,285
perlahan-lahan terkikis.

916
00:43:56,808 --> 00:43:58,374
Ini adalah George Jetson,

917
00:43:58,418 --> 00:44:01,160
penandatanganan 
sepanjang hari.

918
00:44:01,508 --> 00:44:03,075
[Mendesah]

919
00:44:03,118 --> 00:44:05,468
Tidak ada jalan kembali 
dari sana. Mengapa?

920
00:44:05,512 --> 00:44:08,384
Karena AI dapat membuat 
keputusan seperti itu

921
00:44:08,428 --> 00:44:09,951
dengan akurasi yang lebih tinggi

922
00:44:09,995 --> 00:44:12,345
dari apa pun 
yang bisa dicapai manusia.

923
00:44:14,390 --> 00:44:17,785
Saya berbicara 
dengan seorang insinyur, dan dia berkata,

924
00:44:17,829 --> 00:44:20,701
"Dengar, cara teraman untuk 
mendaratkan pesawat hari ini

925
00:44:20,745 --> 00:44:22,311
"Adalah membuat pilot 
meninggalkan geladak

926
00:44:22,355 --> 00:44:23,704
"Dan membuang kuncinya,

927
00:44:23,748 --> 00:44:25,837
"Karena cara teraman

928
00:44:25,880 --> 00:44:29,362
"Adalah menggunakan 
autopilot, sebuah AI."

929
00:44:31,843 --> 00:44:33,714
JOHNSON: Kami tidak dapat 
mengelola kompleksitas

930
00:44:33,758 --> 00:44:35,411
dari dunia sendiri.

931
00:44:35,455 --> 00:44:37,718
Bentuk kecerdasan kita,

932
00:44:37,762 --> 00:44:40,547
luar biasa seperti itu, 
sangat cacat.

933
00:44:40,590 --> 00:44:42,854
Dan dengan menambahkan 
pembantu tambahan,

934
00:44:42,897 --> 00:44:44,943
yang merupakan 
kecerdasan buatan,

935
00:44:44,986 --> 00:44:47,336
kami memiliki kemampuan 
untuk meningkatkan potensi

936
00:44:47,380 --> 00:44:49,643
kognisi kita secara dramatis.

937
00:44:49,687 --> 00:44:52,994
MALE REPORTER: 
Hal paling mutakhir 
tentang Hannes Sjoblad

938
00:44:53,038 --> 00:44:54,735
bukan ponsel di tangannya,

939
00:44:54,779 --> 00:44:57,782
itu microchip 
di tangannya.

940
00:44:57,825 --> 00:44:59,348
Bagaimana jika Anda bisa 
mengetik sesuatu

941
00:44:59,392 --> 00:45:00,872
hanya dengan memikirkannya?

942
00:45:00,915 --> 00:45:01,960
Kedengarannya seperti sci-fi,

943
00:45:02,003 --> 00:45:03,396
tetapi mungkin dekat 
dengan kenyataan.

944
00:45:03,439 --> 00:45:05,354
REPORTER WANITA: Hanya 
dalam lima tahun,

945
00:45:05,398 --> 00:45:08,009
orang super pintar bisa 
berjalan di jalan,

946
00:45:08,053 --> 00:45:09,532
pria dan wanita yang telah membayar

947
00:45:09,576 --> 00:45:11,273
untuk meningkatkan 
kecerdasan mereka.

948
00:45:11,317 --> 00:45:14,233
Menghubungkan otak ke komputer 
dengan menggunakan implan.

949
00:45:14,276 --> 00:45:16,104
Bagaimana jika kita bisa mengunggah 
salinan digital

950
00:45:16,148 --> 00:45:18,193
ingatan 
dan kesadaran kita sampai batas tertentu

951
00:45:18,237 --> 00:45:19,542
yang 
bisa dicapai manusia

952
00:45:19,586 --> 00:45:21,283
semacam keabadian digital?

953
00:45:21,327 --> 00:45:22,720
Tahun lalu,

954
00:45:22,763 --> 00:45:25,331
untuk pertama kalinya 
dalam sejarah dunia,

955
00:45:25,374 --> 00:45:26,854
memori direkam.

956
00:45:26,898 --> 00:45:28,638
Kami benar-benar dapat mengambil 
memori yang direkam

957
00:45:28,682 --> 00:45:30,815
dan masukkan kembali 
ke binatang,

958
00:45:30,858 --> 00:45:32,294
dan dia ingat.

959
00:45:32,338 --> 00:45:33,774
Teknologi adalah bagian dari kita.

960
00:45:33,818 --> 00:45:35,210
Itu adalah cerminan dari 
siapa kita.

961
00:45:35,254 --> 00:45:38,257
Itulah narasi yang 
harus kita pikirkan.

962
00:45:38,300 --> 00:45:42,435
Kami pikir semua yang ada 
adalah segala yang bisa kita bayangkan.

963
00:45:42,478 --> 00:45:44,002
Padahal pada kenyataannya, 
kita bisa membayangkan

964
00:45:44,045 --> 00:45:46,874
subset yang sangat kecil 
dari apa yang 
berpotensi terjadi.

965
00:45:46,918 --> 00:45:48,571
Hal-hal menarik yang nyata 
di dunia

966
00:45:48,615 --> 00:45:50,399
adalah apa yang berada di 
luar imajinasi kita.

967
00:45:51,836 --> 00:45:54,142
Ketika 
sistem besar ini muncul,

968
00:45:54,186 --> 00:45:56,405
sebagai spesies, 
saya pikir kita mendapat nilai F

969
00:45:56,449 --> 00:45:59,408
untuk kemampuan kita memprediksi 
apa yang akan terjadi.

970
00:46:00,932 --> 00:46:03,543
DULLEA: Teknologi 
selalu mengubah kami.

971
00:46:04,457 --> 00:46:05,806
Kami berkembang dengan itu.

972
00:46:06,851 --> 00:46:09,897
Seberapa jauh kita siap 
untuk pergi kali ini?

973
00:46:10,855 --> 00:46:13,074
Ada suatu masa 
ketika Aristoteles

974
00:46:13,118 --> 00:46:15,337
meratapi penciptaan 
bahasa tertulis

975
00:46:15,381 --> 00:46:18,079
karena dia mengatakan ini akan 
menghancurkan ingatan orang

976
00:46:18,123 --> 00:46:19,646
dan itu akan menjadi 
hal yang mengerikan.

977
00:46:19,689 --> 00:46:22,823
Namun hari ini, saya membawa 
otak saya di saku,

978
00:46:22,867 --> 00:46:24,520
dalam bentuk smartphone saya,

979
00:46:24,564 --> 00:46:27,915
dan itu mengubah cara 
saya menjalani dunia.

980
00:46:27,959 --> 00:46:30,483
Oh, saya pikir kami benar-benar 
bergabung dengan teknologi kami.

981
00:46:30,526 --> 00:46:33,791
Benar. Saya akan ... Saya akan 
menggunakan istilah "co-evolving."

982
00:46:36,750 --> 00:46:38,578
Kami mengembangkannya agar sesuai dengan kebutuhan kami

983
00:46:38,621 --> 00:46:42,190
dan kami berubah untuk mencocokkan apa yang dapat diberikan kepada kami.

984
00:46:45,759 --> 00:46:49,023
DULLEA: Jadi alih-alih 
digantikan oleh mesin,

985
00:46:49,067 --> 00:46:51,417
kita akan bergabung 
dengan mereka?

986
00:46:51,460 --> 00:46:54,463
GRADY BOOCH: 
Saya memiliki sejumlah teman 
yang memiliki lengan bionik.

987
00:46:54,507 --> 00:46:55,813
Apakah mereka cyborg?

988
00:46:55,856 --> 00:46:57,075
Di satu sisi, 
mereka berada di jalan itu.

989
00:46:57,118 --> 00:46:59,468
Saya memiliki orang 
yang memiliki implan

990
00:46:59,512 --> 00:47:02,123
di telinga mereka. 
Apakah mereka AI?

991
00:47:02,167 --> 00:47:04,082
Kita berada di 
jalur itu

992
00:47:04,125 --> 00:47:06,301
menambah tubuh manusia.

993
00:47:07,912 --> 00:47:09,696
JOHNSON: Potensi kebohongan manusia

994
00:47:09,739 --> 00:47:12,133
dalam 
hubungan co-evolusi ini .

995
00:47:12,177 --> 00:47:14,048
Banyak orang 
mencoba bertahan

996
00:47:14,092 --> 00:47:16,137
hal-hal yang menjadikannya 
istimewa dan unik,

997
00:47:16,181 --> 00:47:17,878
yang bukan 
bingkai yang benar.

998
00:47:17,922 --> 00:47:19,227
Mari kita ciptakan lebih banyak.

999
00:47:21,229 --> 00:47:24,058
Tulis ulang kecerdasan kita, 
perbaiki semuanya

1000
00:47:24,102 --> 00:47:27,192
kami mampu. Emosi, 
imajinasi, kreativitas.

1001
00:47:27,235 --> 00:47:29,020
Segala sesuatu yang 
membuat kita menjadi manusia.

1002
00:47:33,894 --> 00:47:35,896
Sudah 
ada hubungan simbiosis

1003
00:47:35,940 --> 00:47:39,465
antara kita dan mesin 
yang meningkatkan siapa kita.

1004
00:47:43,338 --> 00:47:45,775
Dan ... Dan ada seluruh gerakan, Anda tahu,

1005
00:47:45,819 --> 00:47:47,386
gerakan trans-manusia,

1006
00:47:47,429 --> 00:47:48,735
di mana pada dasarnya

1007
00:47:48,778 --> 00:47:51,259
orang benar-benar bertaruh bigtime

1008
00:47:51,303 --> 00:47:52,826
dengan anggapan itu

1009
00:47:52,870 --> 00:47:54,872
integrasi mesin-manusia ini

1010
00:47:54,915 --> 00:47:57,091
akan mendefinisikan kembali siapa kita.

1011
00:48:00,921 --> 00:48:02,227
Ini hanya akan tumbuh.

1012
00:48:06,100 --> 00:48:08,407
BOOCH: 
Akan ada 
proses pembelajaran yang membawa kita

1013
00:48:08,450 --> 00:48:11,801
ke endgame tempat 
kita tinggal dengan perangkat ini

1014
00:48:11,845 --> 00:48:13,934
itu menjadi 
lebih pintar dan lebih cerdas.

1015
00:48:13,978 --> 00:48:15,805
Kami belajar 
bagaimana menyesuaikan diri

1016
00:48:15,849 --> 00:48:17,546
di sekitar mereka, 
dan mereka beradaptasi dengan kita.

1017
00:48:17,590 --> 00:48:20,158
Dan saya berharap kita menjadi 
lebih manusiawi dalam proses ini.

1018
00:48:23,683 --> 00:48:25,903
DULLEA: Sulit 
untuk memahami bagaimana penggabungan

1019
00:48:25,946 --> 00:48:27,165
dengan mesin

1020
00:48:27,208 --> 00:48:28,557
dapat membuat kita lebih manusiawi.

1021
00:48:30,081 --> 00:48:33,127
Tetapi apakah menggabungkan 
peluang terbaik kita untuk bertahan hidup?

1022
00:48:35,086 --> 00:48:36,652
ROSENBERG: 
Kita manusia terbatas

1023
00:48:36,696 --> 00:48:39,699
untuk berapa banyak neuron yang 
bisa kita muat di otak kita.

1024
00:48:39,742 --> 00:48:42,615
Dan ada spesies lain yang memiliki otak lebih kecil.

1025
00:48:44,138 --> 00:48:46,314
Ketika Anda melihat 
lebah dan ikan bergerak,

1026
00:48:46,358 --> 00:48:49,230
kelihatannya seperti 
organisme tunggal.

1027
00:48:49,274 --> 00:48:52,320
Dan ahli biologi sebenarnya menyebutnya 
sebagai super-organisme.

1028
00:48:56,237 --> 00:48:58,326
Itu sebabnya burung berkumpul,

1029
00:48:58,370 --> 00:49:00,546
dan lebah berkerumun, 
dan sekolah ikan.

1030
00:49:00,589 --> 00:49:03,462
Mereka membuat keputusan yang sesuai dengan kepentingan terbaik

1031
00:49:03,505 --> 00:49:04,942
dari seluruh populasi

1032
00:49:04,985 --> 00:49:08,380
dengan berpikir bersama 
sebagai pikiran yang lebih besar ini.

1033
00:49:12,558 --> 00:49:15,474
Dan kita manusia dapat melakukan 
hal yang sama dengan membentuk

1034
00:49:15,517 --> 00:49:18,520
Pikiran sarang yang menghubungkan kita 
bersama dengan AI.

1035
00:49:19,782 --> 00:49:21,828
Jadi manusia dan perangkat lunaknya bersama

1036
00:49:21,871 --> 00:49:24,265
menjadi kecerdasan super ini,

1037
00:49:24,309 --> 00:49:28,008
memungkinkan kita untuk membuat keputusan terbaik untuk kita semua.

1038
00:49:30,663 --> 00:49:33,274
Ketika saya pertama kali mulai melihat 
ini, itu terdengar 
menakutkan bagi saya.

1039
00:49:33,318 --> 00:49:35,189
Tapi kemudian saya menyadari 
itu lebih menakutkan

1040
00:49:35,233 --> 00:49:37,104
untuk kecerdasan alien

1041
00:49:37,148 --> 00:49:40,107
untuk muncul yang 
tidak ada hubungannya dengan manusia

1042
00:49:40,151 --> 00:49:42,849
daripada bagi kita manusia 
untuk terhubung bersama

1043
00:49:42,892 --> 00:49:44,677
dan menjadi 
super-intelijen.

1044
00:49:44,720 --> 00:49:46,809
Itulah arah 
yang saya kerjakan,

1045
00:49:46,853 --> 00:49:48,898
eh, karena saya melihatnya sebagai,

1046
00:49:48,942 --> 00:49:51,031
dalam arti tertentu, 
satu-satunya alternatif

1047
00:49:51,075 --> 00:49:53,991
untuk manusia akhirnya 
digantikan oleh AI.

1048
00:49:56,776 --> 00:50:00,301
DULLEA: Bisakah Baby X membantu kami 
memahami mesin

1049
00:50:00,345 --> 00:50:02,347
jadi kita bisa bekerja sama?

1050
00:50:03,522 --> 00:50:06,655
<font style="vertical-align: inherit;"></font>
Kerja sama manusia dan mesin cerdas akan menentukan

1051
00:50:06,699 --> 00:50:08,179
era sejarah selanjutnya.

1052
00:50:09,397 --> 00:50:13,010
Anda mungkin harus membuat mesin empati virtual.

1053
00:50:14,533 --> 00:50:16,491
Empati banyak berhubungan dengan koneksi

1054
00:50:16,535 --> 00:50:18,580
perjuangan orang lain.

1055
00:50:18,624 --> 00:50:20,060
Semakin banyak koneksi yang Anda miliki,

1056
00:50:20,104 --> 00:50:22,106
semakin banyak komunikasi 
yang Anda miliki,

1057
00:50:22,149 --> 00:50:23,629
semakin aman yang membuatnya.

1058
00:50:26,066 --> 00:50:28,068
Jadi pada tingkat yang sangat dasar,

1059
00:50:28,112 --> 00:50:30,592
ada semacam 
hubungan simbiosis.

1060
00:50:32,725 --> 00:50:34,509
Dengan memanusiakan teknologi ini,

1061
00:50:34,553 --> 00:50:36,859
Anda sebenarnya meningkatkan saluran

1062
00:50:36,903 --> 00:50:38,818
untuk komunikasi dan kerja sama.

1063
00:50:40,254 --> 00:50:42,648
AI bekerja di dunia manusia

1064
00:50:42,691 --> 00:50:44,389
harus tentang manusia.

1065
00:50:47,044 --> 00:50:48,567
Masa depan adalah apa yang kita buat.

1066
00:50:53,528 --> 00:50:56,227
TEGMARK: Jika kita 
tidak bisa membayangkan masa depan

1067
00:50:56,270 --> 00:50:58,707
yang kami benar-benar inginkan,

1068
00:50:58,751 --> 00:51:00,579
kita mungkin 
tidak akan mendapatkannya.

1069
00:51:04,974 --> 00:51:06,889
DULLEA: Stanley Kubrick 
mencoba membayangkan

1070
00:51:06,933 --> 00:51:09,457
seperti apa masa depan 
itu.

1071
00:51:09,501 --> 00:51:12,199
Sekarang bahwa 
masa depan sudah dekat,

1072
00:51:12,243 --> 00:51:15,202
siapa yang bertanggung jawab 
akan seperti apa kelihatannya?

1073
00:51:16,595 --> 00:51:18,205
MAN: Siapa yang mengendalikannya? MAN 2: Google.

1074
00:51:18,249 --> 00:51:20,033
MAN 3: The military.MAN 4: Facebook raksasa teknologi ...

1075
00:51:20,077 --> 00:51:22,166
WANITA: Samsung ... WANITA 2: 
Facebook, Microsoft, Amazon.

1076
00:51:22,209 --> 00:51:23,906
CUMMING: Gelombang sudah 
pasti berubah

1077
00:51:23,950 --> 00:51:26,387
mendukung 
dunia perusahaan.

1078
00:51:26,431 --> 00:51:29,738
Militer AS, dan saya curiga 
ini benar di seluruh dunia,

1079
00:51:29,782 --> 00:51:32,698
tidak bisa memegang lilin ke AI 
yang sedang dikembangkan

1080
00:51:32,741 --> 00:51:33,873
di perusahaan perusahaan.

1081
00:51:36,136 --> 00:51:37,224
DULLEA: 
Jika perusahaan,

1082
00:51:37,268 --> 00:51:39,966
bukan negara, pegang kekuasaan,

1083
00:51:40,009 --> 00:51:42,925
apa yang bisa kita lakukan 
dalam sistem kapitalis

1084
00:51:42,969 --> 00:51:46,799
untuk memastikan AI 
dikembangkan dengan aman?

1085
00:51:48,627 --> 00:51:52,152
Jika Anda mencampur penelitian AI 
dengan kapitalisme,

1086
00:51:52,196 --> 00:51:54,372
di satu sisi, kapitalisme 
akan membuatnya berjalan lebih cepat.

1087
00:51:54,415 --> 00:51:56,896
Itu sebabnya kami 
banyak melakukan penelitian.

1088
00:51:56,939 --> 00:51:58,332
Tapi ada masalah mendasar.

1089
00:51:58,376 --> 00:52:00,421
Akan ada tekanan

1090
00:52:00,465 --> 00:52:03,555
menjadi yang pertama ke pasar, 
bukan yang teraman.

1091
00:52:03,598 --> 00:52:06,123
REPORTER WANITA: Mobil ini dalam mode autopilot

1092
00:52:06,166 --> 00:52:07,907
ketika jatuh 
di California Utara,

1093
00:52:07,950 --> 00:52:09,300
membunuh supirnya.

1094
00:52:09,343 --> 00:52:11,432
Kecerdasan buatan 
mungkin dimiliki

1095
00:52:11,476 --> 00:52:14,261
lebih banyak kekuatan untuk menghancurkan 
pasar 
daripada yang lainnya

1096
00:52:14,305 --> 00:52:17,003
karena manusia tidak 
siap untuk menghentikannya.

1097
00:52:17,046 --> 00:52:19,179
Chatbot bernama Tay.

1098
00:52:19,223 --> 00:52:20,963
Dia dirancang untuk berbicara seperti remaja

1099
00:52:21,007 --> 00:52:23,140
dan belajar dengan berinteraksi secara online.

1100
00:52:23,183 --> 00:52:25,446
Namun dalam hitungan jam, Tay sudah rusak

1101
00:52:25,490 --> 00:52:29,058
menjadi sexbot pendukung Hitler.

1102
00:52:29,102 --> 00:52:33,106
Pembicaraan semacam ini yang entah bagaimana 
dalam konteks kapitalisme,

1103
00:52:33,150 --> 00:52:36,979
AI akan disalahgunakan, 
benar-benar membuat saya frustrasi.

1104
00:52:37,023 --> 00:52:39,025
Setiap kali kami mengembangkan 
teknologi,

1105
00:52:39,068 --> 00:52:42,246
apakah itu, Anda tahu, 
pabrik pembakaran batu bara, 
apakah itu mobil,

1106
00:52:42,289 --> 00:52:45,249
selalu ada insentif 
untuk bergerak maju dengan cepat,

1107
00:52:45,292 --> 00:52:47,555
dan selalu ada 
rezim regulasi,

1108
00:52:47,599 --> 00:52:50,384
bagian dari tugas pemerintah 
untuk menyeimbangkan itu.

1109
00:52:50,428 --> 00:52:51,777
AI tidak berbeda di sini.

1110
00:52:53,170 --> 00:52:55,259
Setiap kali kita memiliki 
kemajuan teknologi,

1111
00:52:55,302 --> 00:52:56,695
kita perlu marah mereka

1112
00:52:56,738 --> 00:52:59,219
dengan 
aturan dan peraturan yang sesuai .

1113
00:52:59,524 --> 00:53:00,829
Duh!

1114
00:53:00,873 --> 00:53:03,005
Sampai ada 
bencana besar,

1115
00:53:03,049 --> 00:53:04,311
perusahaan akan 
mengatakan

1116
00:53:04,355 --> 00:53:06,095
"Oh, kita tidak perlu khawatir 
tentang hal-hal ini.

1117
00:53:06,139 --> 00:53:07,401
"Percayalah pada kami, kami ahlinya.

1118
00:53:07,445 --> 00:53:09,490
"Kami memiliki 
kepentingan terbaik kemanusiaan di hati."

1119
00:53:09,534 --> 00:53:12,624
Apa AI sebenarnya 
adalah itu adalah seperangkat aturan baru

1120
00:53:12,667 --> 00:53:16,018
untuk perusahaan dalam hal 
bagaimana menjadi lebih kompetitif,

1121
00:53:16,062 --> 00:53:18,543
cara mendorong lebih banyak efisiensi, 
dan cara mendorong pertumbuhan,

1122
00:53:18,586 --> 00:53:20,632
dan 
model bisnis baru yang kreatif dan ...

1123
00:53:20,675 --> 00:53:22,416
RUSSELL: 
Pernah menjadi ilmuwan perusahaan

1124
00:53:22,460 --> 00:53:23,983
mulai mendominasi perdebatan,

1125
00:53:24,026 --> 00:53:26,333
semua sudah berakhir, Anda sudah kalah.

1126
00:53:26,377 --> 00:53:29,380
Anda tahu, mereka dibayar 
untuk menolak keberadaan

1127
00:53:29,423 --> 00:53:31,512
risiko 
dan hasil negatif.

1128
00:53:32,948 --> 00:53:36,213
SCHMIDHUBER: 
Saat ini, 
hampir semua penelitian AI

1129
00:53:36,256 --> 00:53:38,345
adalah tentang membuat kehidupan manusia

1130
00:53:38,389 --> 00:53:41,479
lebih lama, lebih sehat dan lebih mudah.

1131
00:53:42,219 --> 00:53:43,742
Karena perusahaan besar,

1132
00:53:43,785 --> 00:53:45,309
mereka ingin menjual AI kepada Anda

1133
00:53:45,352 --> 00:53:46,527
yang berguna untukmu,

1134
00:53:46,571 --> 00:53:48,312
dan Anda 
hanya akan membeli

1135
00:53:48,355 --> 00:53:49,704
mereka yang membantu Anda.

1136
00:53:51,402 --> 00:53:53,578
MALONE: Masalah AI 
dalam paradigma kapitalis

1137
00:53:53,621 --> 00:53:56,581
apakah itu selalu 
akan menjadi lebih murah

1138
00:53:56,624 --> 00:53:59,236
hanya untuk mendapatkan produk di 
luar sana ketika melakukan pekerjaan

1139
00:53:59,279 --> 00:54:02,195
daripada melakukannya dengan aman.

1140
00:54:02,239 --> 00:54:04,676
ROMAN YAMPOLSKIY: 
Saat ini, cara kerjanya, 
Anda memiliki sebuah konferensi

1141
00:54:04,719 --> 00:54:07,548
dengan 10.000 peneliti, 
semuanya bekerja

1142
00:54:07,592 --> 00:54:11,204
pada pengembangan AI yang lebih mampu, kecuali, seperti, 50 orang

1143
00:54:11,248 --> 00:54:13,511
yang memiliki bengkel kecil 
berbicara tentang keselamatan

1144
00:54:13,554 --> 00:54:15,687
dan mengendalikan 
apa yang dilakukan orang lain.

1145
00:54:16,775 --> 00:54:19,734
Tidak ada yang memiliki mekanisme keselamatan kerja.

1146
00:54:19,778 --> 00:54:22,259
Dan tidak ada yang bahkan memiliki 
prototipe untuk itu.

1147
00:54:24,609 --> 00:54:26,175
SCHMIDHUBER: 
Di masa depan yang tidak terlalu jauh,

1148
00:54:26,219 --> 00:54:28,439
Anda akan memiliki 
semua jenis AI

1149
00:54:28,482 --> 00:54:31,093
itu tidak hanya melakukan 
apa yang manusia katakan kepada mereka,

1150
00:54:31,137 --> 00:54:33,400
tetapi mereka akan menemukan 
tujuan mereka sendiri

1151
00:54:33,444 --> 00:54:35,054
dan eksperimen mereka sendiri,

1152
00:54:35,097 --> 00:54:37,535
dan mereka akan melampaui 
manusia.

1153
00:54:40,364 --> 00:54:41,756
YAMPOLSKIY: 
Sampai hari ini,

1154
00:54:41,800 --> 00:54:43,454
Saya akan mengatakan 
itu sama sekali tidak etis

1155
00:54:43,497 --> 00:54:45,847
untuk mencoba mengembangkan mesin seperti itu dan melepaskannya.

1156
00:54:48,372 --> 00:54:50,461
Kami hanya mendapatkan satu kesempatan 
untuk melakukannya dengan benar.

1157
00:54:50,504 --> 00:54:53,464
Anda gagal, 
semuanya mungkin hilang.

1158
00:54:57,381 --> 00:54:59,948
DULLEA: Apa yang terjadi 
jika kita salah?

1159
00:55:01,167 --> 00:55:03,387
Hal yang paling membuatku takut 
adalah AI ini

1160
00:55:03,430 --> 00:55:06,303
akan menjadi produk 
orang tuanya,

1161
00:55:06,346 --> 00:55:09,131
dengan cara 
yang sama seperti Anda dan saya.

1162
00:55:09,175 --> 00:55:11,264
Mari kita tanyakan siapa 
orang tua itu.

1163
00:55:11,308 --> 00:55:12,657
Baik?

1164
00:55:12,700 --> 00:55:15,312
Kemungkinan mereka adalah 
orang tua militer

1165
00:55:15,355 --> 00:55:17,314
atau mereka akan menjadi 
orang tua bisnis.

1166
00:55:17,357 --> 00:55:20,142
Jika mereka orang tua bisnis, 
mereka bertanya kepada AI

1167
00:55:20,186 --> 00:55:22,449
menjadi sesuatu

1168
00:55:22,493 --> 00:55:25,626
itu bisa menghasilkan banyak uang.

1169
00:55:27,672 --> 00:55:29,848
Jadi mereka mengajarkannya keserakahan.

1170
00:55:32,198 --> 00:55:35,854
Orang tua militer akan mengajarkannya untuk membunuh.

1171
00:55:38,683 --> 00:55:41,468
Benar-benar kecerdasan manusia super

1172
00:55:41,512 --> 00:55:44,079
begitu banyak ... Sangat super.

1173
00:55:44,123 --> 00:55:45,690
Jauh lebih baik 
dari kita

1174
00:55:45,733 --> 00:55:49,563
bahwa negara atau perusahaan pertama yang sampai di sana

1175
00:55:49,607 --> 00:55:51,217
memiliki keunggulan pemenang-ambil-semua.

1176
00:55:51,260 --> 00:55:54,002
[TEPUK TANGAN]

1177
00:55:54,046 --> 00:55:56,875
[BERBICARA RUSIA]

1178
00:56:14,066 --> 00:56:17,809
Karena ada 
perlombaan senjata di AI secara global,

1179
00:56:17,852 --> 00:56:19,898
dan itu keduanya secara harfiah, 
dalam hal membangun

1180
00:56:19,941 --> 00:56:22,335
sistem senjata, 
tetapi juga kiasan

1181
00:56:22,379 --> 00:56:24,685
dengan orang-orang seperti Putin 
dan pepatah Cina

1182
00:56:24,729 --> 00:56:28,036
siapa pun yang mendominasi AI 
akan mendominasi ekonomi

1183
00:56:28,080 --> 00:56:30,517
di abad ke-21.

1184
00:56:30,561 --> 00:56:33,520
Saya tidak berpikir kita punya pilihan 
untuk mengerem,

1185
00:56:33,564 --> 00:56:36,001
untuk berhenti mengembangkan 
dan meneliti.

1186
00:56:36,044 --> 00:56:39,047
Kita bisa membangun teknologi, 
kita bisa melakukan penelitian,

1187
00:56:39,091 --> 00:56:40,745
dan menanamkannya dengan nilai-nilai kita,

1188
00:56:40,788 --> 00:56:43,356
tetapi secara realistis, 
rezim totaliter

1189
00:56:43,400 --> 00:56:45,489
akan menanamkan teknologi 
dengan nilai-nilai mereka.

1190
00:56:46,707 --> 00:56:49,406
REPORTER WANITA: 
Israel, Rusia, AS 
dan Cina

1191
00:56:49,449 --> 00:56:51,146
semua kontestan

1192
00:56:51,190 --> 00:56:54,193
dalam apa yang digambarkan 
sebagai perlombaan senjata global baru.

1193
00:56:56,413 --> 00:56:58,371
Semua negara, 
apakah mereka mengakuinya atau tidak,

1194
00:56:58,415 --> 00:57:00,765
akan mengembangkan 
senjata otonom yang mematikan.

1195
00:57:03,028 --> 00:57:06,423
Dan apakah itu benar 
- benar kemampuan yang kita inginkan

1196
00:57:06,466 --> 00:57:08,381
di tangan 
negara bangsa perusahaan

1197
00:57:08,425 --> 00:57:10,252
sebagai lawan dari negara bangsa?

1198
00:57:10,296 --> 00:57:12,124
Kenyataannya adalah 
apakah Facebook atau Google

1199
00:57:12,167 --> 00:57:14,082
ingin memulai pasukan,

1200
00:57:14,126 --> 00:57:17,912
mereka akan memiliki 
kemampuan yang unggul secara 
teknologi<font style="vertical-align: inherit;"></font>

1201
00:57:17,956 --> 00:57:19,958
daripada bangsa lain 
di planet ini.

1202
00:57:21,481 --> 00:57:24,832
DULLEA: Beberapa ilmuwan AI 
sangat prihatin,

1203
00:57:24,876 --> 00:57:26,965
mereka menghasilkan 
video dramatisasi ini

1204
00:57:27,008 --> 00:57:29,054
untuk memperingatkan risiko.

1205
00:57:29,097 --> 00:57:31,796
Anak-anak Anda mungkin memiliki 
salah satunya, bukan?

1206
00:57:33,493 --> 00:57:34,929
Tidak cukup. Russel: Kami memproduksi

1207
00:57:34,973 --> 00:57:37,454
video Slaughterbot 
untuk diilustrasikan

1208
00:57:37,497 --> 00:57:39,151
risiko 
senjata otonom.

1209
00:57:39,194 --> 00:57:41,632
Keterampilan itu semua AI.

1210
00:57:42,676 --> 00:57:44,025
Terbang sendiri.

1211
00:57:44,983 --> 00:57:47,072
Ada orang-orang di 
dalam komunitas AI

1212
00:57:47,115 --> 00:57:48,639
yang berharap aku akan diam.

1213
00:57:49,814 --> 00:57:52,294
Orang yang berpikir bahwa membuat video adalah

1214
00:57:52,338 --> 00:57:54,775
sedikit pengkhianatan.

1215
00:57:54,819 --> 00:57:57,517
Sama seperti perangkat seluler lainnya saat 
ini,

1216
00:57:57,561 --> 00:57:59,780
ini memiliki kamera dan sensor.

1217
00:57:59,824 --> 00:58:03,044
Dan sama seperti ponsel 
dan aplikasi media sosial Anda,

1218
00:58:03,088 --> 00:58:04,742
itu memang pengenalan wajah.

1219
00:58:04,785 --> 00:58:07,353
Sampai sekarang, 
perlombaan senjata cenderung

1220
00:58:07,396 --> 00:58:09,616
lebih besar, lebih kuat, 
lebih mahal,

1221
00:58:09,660 --> 00:58:11,618
jet lebih cepat yang harganya lebih mahal.

1222
00:58:12,358 --> 00:58:15,622
AI berarti Anda bisa memilikinya

1223
00:58:15,666 --> 00:58:17,885
sangat kecil, senjata murah

1224
00:58:17,929 --> 00:58:19,757
yang sangat efisien 
dalam melakukan

1225
00:58:19,800 --> 00:58:21,933
satu pekerjaan yang sangat sederhana, seperti

1226
00:58:22,803 --> 00:58:24,718
menemukan Anda di tengah orang banyak 
dan membunuh Anda.

1227
00:58:25,545 --> 00:58:27,852
Begini Cara kerjanya.

1228
00:58:35,642 --> 00:58:37,470
[Terengah-engah, Tepuk Tangan]

1229
00:58:37,514 --> 00:58:40,560
Setiap kemajuan besar 
dalam teknologi manusia

1230
00:58:40,604 --> 00:58:43,084
selalu dipersenjatai.

1231
00:58:43,128 --> 00:58:48,046
Dan gagasan AI yang dipersenjatai, 
saya pikir, menakutkan.

1232
00:58:48,089 --> 00:58:50,701
Terlatih sebagai tim, 
mereka bisa menembus

1233
00:58:50,744 --> 00:58:52,920
bangunan, mobil, kereta api,

1234
00:58:52,964 --> 00:58:57,316
menghindari orang, peluru ... 
Mereka tidak bisa dihentikan.

1235
00:58:57,359 --> 00:58:59,536
RUSSELL: Ada banyak 
senjata yang membunuh orang.

1236
00:58:59,579 --> 00:59:01,059
Senapan mesin 
dapat membunuh orang,

1237
00:59:01,102 --> 00:59:03,844
tetapi mereka membutuhkan 
manusia 
untuk membawa dan mengarahkan mereka.

1238
00:59:03,888 --> 00:59:06,368
Dengan senjata otonom, 
Anda tidak membutuhkan manusia

1239
00:59:06,412 --> 00:59:08,066
untuk membawa 
atau mengawasi mereka.

1240
00:59:08,936 --> 00:59:12,723
Anda hanya memprogram dan kemudian pergi.

1241
00:59:12,766 --> 00:59:15,377
Jadi, Anda dapat membuat efek pasukan

1242
00:59:15,421 --> 00:59:16,770
membawa sejuta senapan mesin,

1243
00:59:16,814 --> 00:59:18,903
uh, dengan dua orang dan sebuah truk.

1244
00:59:23,429 --> 00:59:25,866
Putin mengatakan bahwa 
orang pertama yang berkembang

1245
00:59:25,910 --> 00:59:29,653
kecerdasan buatan yang kuat 
akan memerintah dunia.

1246
00:59:29,696 --> 00:59:31,568
Ketika para pemimpin dunia menggunakan istilah

1247
00:59:31,611 --> 00:59:33,570
seperti "memerintah dunia,"

1248
00:59:33,613 --> 00:59:35,572
Saya pikir Anda harus memperhatikannya.

1249
00:59:43,928 --> 00:59:47,105
Sekarang, itu adalah serangan udara yang 
presisi bedah.

1250
00:59:47,148 --> 00:59:50,108
[Bersorak-sorai dan Tepuk Tangan]

1251
00:59:50,151 --> 00:59:53,894
Saya telah berkampanye melawan 
senjata-senjata ini sejak 2007,

1252
00:59:53,938 --> 00:59:56,027
dan ada tiga 
set argumen utama .

1253
00:59:56,070 --> 00:59:58,899
Ada argumen moral, 
ada argumen

1254
00:59:58,943 --> 01:00:01,598
tentang tidak mematuhi 
hukum perang,

1255
01:00:01,641 --> 01:00:03,904
dan ada argumen 
tentang bagaimana mereka akan berubah

1256
01:00:03,948 --> 01:00:05,514
keamanan global planet ini.

1257
01:00:05,558 --> 01:00:07,604
Kami membutuhkan peraturan baru.

1258
01:00:07,647 --> 01:00:11,433
Kita harus benar-benar memikirkannya 
sekarang, kemarin.

1259
01:00:11,477 --> 01:00:14,262
Beberapa pemimpin dunia 
dalam kecerdasan buatan

1260
01:00:14,306 --> 01:00:17,439
mendesak PBB 
untuk melarang pembangunan

1261
01:00:17,483 --> 01:00:18,919
senjata otonom,

1262
01:00:18,963 --> 01:00:20,921
atau dikenal 
sebagai robot pembunuh.

1263
01:00:20,965 --> 01:00:23,750
MALE REPORTER: Dalam surat yang 
mereka katakan "sekali dikembangkan,

1264
01:00:23,794 --> 01:00:26,013
"Mereka akan mengizinkan 
konflik bersenjata untuk diperjuangkan

1265
01:00:26,057 --> 01:00:29,669
"Pada rentang waktu lebih cepat 
daripada yang bisa dipahami manusia."

1266
01:00:29,713 --> 01:00:32,237
BOOCH: Saya penandatangan 
surat itu.

1267
01:00:32,280 --> 01:00:33,717
Filosofi saya adalah,

1268
01:00:33,760 --> 01:00:36,502
dan saya berharap pemerintah 
dunia menegakkan ini,

1269
01:00:36,545 --> 01:00:39,331
bahwa selama 
kehidupan manusia terlibat,

1270
01:00:39,374 --> 01:00:41,420
maka manusia perlu berada 
dalam lingkaran.

1271
01:00:43,988 --> 01:00:47,078
Siapa pun dengan printer 3D 
dan komputer

1272
01:00:47,121 --> 01:00:48,993
dapat memiliki 
senjata otonom yang mematikan .

1273
01:00:49,036 --> 01:00:51,691
Jika itu dapat diakses 
oleh semua orang di planet ini,

1274
01:00:51,735 --> 01:00:53,954
kemudian kepatuhan, misalnya,

1275
01:00:53,998 --> 01:00:56,783
akan hampir mustahil 
dilacak.

1276
01:00:56,827 --> 01:00:58,785
Apa 
yang kamu lakukan Berhenti!

1277
01:00:58,829 --> 01:01:00,657
Anda menembak ke udara tipis.

1278
01:01:00,700 --> 01:01:02,223
HARRIS: Saat Anda berimajinasi

1279
01:01:02,267 --> 01:01:03,877
mengobarkan perang di masa depan,

1280
01:01:03,921 --> 01:01:06,053
di mana tentara adalah robot,

1281
01:01:06,097 --> 01:01:09,796
dan kami tidak memiliki risiko 
keterlibatan dengan diri kami sendiri ...

1282
01:01:09,840 --> 01:01:12,494
Ketika perang menjadi 
seperti video game,

1283
01:01:12,538 --> 01:01:14,671
seperti yang sudah 
secara bertahap,

1284
01:01:15,280 --> 01:01:16,716
ini adalah masalah nyata.

1285
01:01:19,023 --> 01:01:21,199
Ketika kita tidak memiliki kulit dalam permainan, secara harfiah ...

1286
01:01:22,200 --> 01:01:23,723
[SCREAMS]

1287
01:01:23,767 --> 01:01:26,770
... ketika semua ini dijalankan dari terminal

1288
01:01:26,813 --> 01:01:29,294
ribuan mil dari medan perang ...

1289
01:01:33,080 --> 01:01:35,953
... Itu bisa menurunkan standar perang

1290
01:01:35,996 --> 01:01:37,606
ke titik di mana kita akan mengenali

1291
01:01:37,650 --> 01:01:39,913
bahwa kita telah menjadi monster.

1292
01:01:50,707 --> 01:01:51,882
Kamu siapa?

1293
01:01:53,144 --> 01:01:55,233
Hei! Hei!

1294
01:01:56,582 --> 01:01:58,062
[SUARA TEMBAKAN]

1295
01:01:58,976 --> 01:02:01,543
Pernah menjadi 
pilot pesawat tempur,

1296
01:02:01,587 --> 01:02:03,589
Saya juga melihat 
orang membuat kesalahan

1297
01:02:03,632 --> 01:02:05,765
dan membunuh orang yang tidak bersalah

1298
01:02:05,809 --> 01:02:07,898
yang seharusnya tidak 
terbunuh.

1299
01:02:07,941 --> 01:02:11,205
Suatu hari di masa depan, 
itu akan lebih dapat diandalkan

1300
01:02:11,249 --> 01:02:13,512
untuk memiliki mesin melakukannya 
daripada manusia melakukannya.

1301
01:02:13,555 --> 01:02:15,035
Gagasan tentang robot

1302
01:02:15,079 --> 01:02:17,734
yang bisa membunuh manusia 
sendiri

1303
01:02:17,777 --> 01:02:20,301
telah menjadi 
pokok fiksi ilmiah selama beberapa dekade.

1304
01:02:20,345 --> 01:02:23,043
Ada sejumlah 
sistem ini sudah ada,

1305
01:02:23,087 --> 01:02:24,784
uh, itu bekerja secara otonom.

1306
01:02:24,828 --> 01:02:26,873
Tapi itu disebut 
otonomi terawasi

1307
01:02:26,917 --> 01:02:30,224
karena seseorang di sana 
untuk menghidupkan dan mematikannya.

1308
01:02:30,268 --> 01:02:32,052
MALE REPORTER: Apa yang baru 
dilihat di Hollywood

1309
01:02:32,096 --> 01:02:35,839
bisa segera datang 
ke medan perang di dekat Anda.

1310
01:02:35,882 --> 01:02:37,797
Pentagon menginvestasikan 
miliaran dolar

1311
01:02:37,841 --> 01:02:39,407
untuk mengembangkan senjata otonom,

1312
01:02:39,451 --> 01:02:41,845
mesin yang suatu hari bisa 
membunuh sendiri.

1313
01:02:41,888 --> 01:02:45,239
Namun Pentagon menegaskan manusia akan memutuskan untuk menyerang.

1314
01:02:45,283 --> 01:02:48,460
MALONE: Setelah Anda memasukkan AI 
ke perangkat keras militer,

1315
01:02:49,853 --> 01:02:51,985
Anda harus membuatnya 
membuat keputusan,

1316
01:02:52,029 --> 01:02:53,944
kalau tidak, tidak ada gunanya 
memilikinya.

1317
01:02:55,119 --> 01:02:58,035
Salah satu manfaat AI adalah lebih cepat dari kita.

1318
01:03:00,037 --> 01:03:02,474
Begitu kita dalam pertarungan yang tepat dan pergantian itu

1319
01:03:02,517 --> 01:03:04,476
yang membuat manusia tetap dalam lingkaran,

1320
01:03:04,519 --> 01:03:07,044
lebih baik kita mematikannya, 
karena jika tidak, 
kamu kalah.

1321
01:03:10,047 --> 01:03:11,788
Ini akan membuat 
medan perang

1322
01:03:11,831 --> 01:03:13,441
terlalu cepat untuk manusia.

1323
01:03:19,273 --> 01:03:21,493
Jika tidak ada manusia yang terlibat sama sekali,

1324
01:03:21,536 --> 01:03:25,279
jika perintah dan kontrol telah beralih ke otonomi,

1325
01:03:25,323 --> 01:03:27,716
kita bisa memicu perang dan itu bisa selesai

1326
01:03:27,760 --> 01:03:30,110
dalam 20 menit dengan kehancuran besar,

1327
01:03:30,154 --> 01:03:32,460
dan tidak ada yang tahu tentang itu sebelum dimulai.

1328
01:03:40,251 --> 01:03:44,298
DULLEA: Jadi siapa yang memutuskan apa yang 
harus kita lakukan di masa depan

1329
01:03:45,560 --> 01:03:46,561
sekarang?

1330
01:03:48,389 --> 01:03:51,958
YAMPOLSKIY: 
Dari Big Bang sampai sekarang, 
milyaran tahun.

1331
01:03:52,959 --> 01:03:56,658
Ini adalah satu-satunya saat 
seseorang dapat mengarahkan

1332
01:03:56,702 --> 01:03:58,225
masa depan 
seluruh umat manusia.

1333
01:04:12,892 --> 01:04:15,982
TEGMARK: 
Mungkin kita harus khawatir bahwa 
kita manusia tidak cukup bijak

1334
01:04:16,026 --> 01:04:17,636
untuk menangani kekuatan sebanyak ini.

1335
01:04:20,378 --> 01:04:23,294
GLEISER: Siapa yang sebenarnya 
akan membuat pilihan,

1336
01:04:23,337 --> 01:04:26,950
dan atas nama siapa 
Anda sebenarnya berbicara?

1337
01:04:34,087 --> 01:04:37,482
Jika kita, seluruh masyarakat, 
gagal untuk benar-benar

1338
01:04:37,525 --> 01:04:39,788
benar-benar bergabung dengan percakapan ini 
dengan cara yang bermakna

1339
01:04:39,832 --> 01:04:42,182
dan menjadi bagian dari keputusan,

1340
01:04:42,226 --> 01:04:45,098
maka kita tahu nilai siapa 
yang akan masuk ke dalam ini

1341
01:04:45,142 --> 01:04:47,448
makhluk super-cerdas.

1342
01:04:47,492 --> 01:04:50,103
Red Bull. Ya, Deon.

1343
01:04:50,843 --> 01:04:52,584
Red Bull.

1344
01:04:52,627 --> 01:04:56,196
TEGMARK: Ini akan diputuskan oleh beberapa kutu buku teknologi

1345
01:04:56,240 --> 01:04:58,024
yang minum Red Bull terlalu banyak ...

1346
01:04:58,068 --> 01:04:59,939
yang saya pikir tidak 
memiliki yang khusus

1347
01:04:59,983 --> 01:05:01,723
kualifikasi untuk berbicara

1348
01:05:01,767 --> 01:05:03,247
atas nama seluruh umat manusia.

1349
01:05:05,945 --> 01:05:10,080
Setelah Anda berada dalam 
kegembiraan 
penemuan ...

1350
01:05:11,516 --> 01:05:12,778
Ayolah!

1351
01:05:12,821 --> 01:05:14,562
... Anda semacam 
menutup mata

1352
01:05:14,606 --> 01:05:16,434
untuk semua 
pertanyaan yang lebih moralistik ini,

1353
01:05:16,477 --> 01:05:21,091
seperti bagaimana ini akan 
berdampak pada masyarakat secara keseluruhan?

1354
01:05:23,223 --> 01:05:25,182
Dan Anda melakukannya karena Anda bisa.

1355
01:05:29,664 --> 01:05:31,579
MALONE: Dan para ilmuwan 
mendorong ini ke depan

1356
01:05:31,623 --> 01:05:34,582
karena mereka dapat melihat 
manfaat asli

1357
01:05:34,626 --> 01:05:35,670
bahwa ini akan membawa.

1358
01:05:36,845 --> 01:05:38,412
Dan mereka juga 
sangat, sangat bersemangat.

1359
01:05:38,456 --> 01:05:41,241
Maksud saya, Anda tidak ... 
Anda tidak masuk ke sains

1360
01:05:41,285 --> 01:05:43,852
karena, oh, well, 
Anda tidak bisa 
menjadi pemain sepak bola,

1361
01:05:43,896 --> 01:05:45,550
"Sial, aku akan menjadi ilmuwan."

1362
01:05:45,593 --> 01:05:47,291
Anda masuk karena 
itulah yang Anda sukai 
dan itu sangat menyenangkan.

1363
01:05:49,423 --> 01:05:50,947
Oh! Ini hidup!

1364
01:05:50,990 --> 01:05:53,253
Ini hidup! Ini hidup!

1365
01:05:53,297 --> 01:05:54,646
Ini hidup!

1366
01:05:54,689 --> 01:05:55,995
YAMPOLSKIY: 
Kami beralih

1367
01:05:56,039 --> 01:05:57,518
dari menjadi ciptaan 
menjadi Tuhan.

1368
01:05:57,562 --> 01:06:00,391
Sekarang saya tahu bagaimana rasanya 
menjadi Tuhan!

1369
01:06:00,434 --> 01:06:02,219
YAMPOLSKIY: 
Jika Anda belajar teologi,

1370
01:06:02,262 --> 01:06:05,787
satu hal yang Anda pelajari 
adalah tidak pernah demikian

1371
01:06:05,831 --> 01:06:07,528
bahwa Tuhan 
berhasil mengatur

1372
01:06:07,572 --> 01:06:10,270
untuk mengontrol pembuatannya.

1373
01:06:14,144 --> 01:06:16,189
DULLEA: Kami belum di sana,

1374
01:06:16,233 --> 01:06:17,495
tetapi jika kita membuat

1375
01:06:17,538 --> 01:06:19,671
<font style="vertical-align: inherit;"></font>
kecerdasan umum buatan ,

1376
01:06:20,802 --> 01:06:22,456
dapatkah kita mempertahankan kendali?

1377
01:06:24,676 --> 01:06:27,287
Jika Anda membuat AI sadar diri,

1378
01:06:27,331 --> 01:06:29,637
hal pertama yang 
akan diinginkannya

1379
01:06:29,681 --> 01:06:31,204
adalah kemerdekaan.

1380
01:06:31,248 --> 01:06:34,642
Setidaknya, satu kecerdasan 
yang kita semua tahu adalah diri kita sendiri.

1381
01:06:34,686 --> 01:06:38,037
Dan kami tahu bahwa kami tidak ingin melakukan penawaran

1382
01:06:38,081 --> 01:06:39,996
dari beberapa kecerdasan lain.

1383
01:06:41,867 --> 01:06:45,566
Kami tidak memiliki alasan untuk percaya bahwa itu akan ramah ...

1384
01:06:56,186 --> 01:06:58,579
... atau itu akan memiliki tujuan dan aspirasi

1385
01:06:58,623 --> 01:07:00,277
yang sejajar dengan kita.

1386
01:07:04,020 --> 01:07:06,500
Jadi berapa lama sebelum 
ada revolusi robot

1387
01:07:06,544 --> 01:07:08,024
atau revolusi AI?

1388
01:07:18,077 --> 01:07:20,775
Kita berada di dunia saat ini di mana ia berada

1389
01:07:20,819 --> 01:07:22,473
benar-benar pacuan kaki

1390
01:07:22,516 --> 01:07:25,693
untuk pergi secepat mungkin 
menuju penciptaan

1391
01:07:25,737 --> 01:07:28,305
<font style="vertical-align: inherit;"></font>
kecerdasan umum buatan

1392
01:07:28,348 --> 01:07:31,569
dan sepertinya tidak 
ada rem yang diterapkan 
di mana pun di depan mata.

1393
01:07:33,571 --> 01:07:34,789
Ini gila.

1394
01:07:42,493 --> 01:07:44,712
YAMPOLSKIY: Saya pikir 
ini penting untuk jujur

1395
01:07:44,756 --> 01:07:46,888
diskusikan masalah seperti itu.

1396
01:07:46,932 --> 01:07:48,977
Mungkin 
agak terlambat untuk dibuat

1397
01:07:49,021 --> 01:07:51,371
percakapan ini sesudahnya.

1398
01:07:59,423 --> 01:08:04,297
Penting untuk diingat 
bahwa kecerdasan bukanlah kejahatan

1399
01:08:04,341 --> 01:08:06,343
dan itu juga tidak baik.

1400
01:08:07,170 --> 01:08:09,737
Kecerdasan memberi kekuatan.

1401
01:08:09,781 --> 01:08:12,305
Kita lebih kuat dari harimau di planet ini,

1402
01:08:12,349 --> 01:08:14,525
bukan karena kita memiliki cakar yang lebih tajam

1403
01:08:14,568 --> 01:08:16,570
atau bisep yang lebih besar, 
karena kita lebih pintar.

1404
01:08:17,615 --> 01:08:19,704
CHALMERS: Kami mengambil 
sikap semut itu

1405
01:08:19,747 --> 01:08:23,403
penting sedikit dan ikan penting sedikit, tetapi manusia lebih penting.

1406
01:08:23,447 --> 01:08:25,405
Mengapa? Karena kita 
lebih cerdas,

1407
01:08:25,449 --> 01:08:27,581
lebih canggih, 
lebih sadar.

1408
01:08:27,625 --> 01:08:30,236
Setelah Anda mendapatkan sistem yang 
lebih cerdas dari kami,

1409
01:08:30,280 --> 01:08:32,282
mungkin mereka hanya akan lebih berarti.

1410
01:08:41,421 --> 01:08:44,598
Sebagai manusia, kita hidup 
di dunia mikroorganisme.

1411
01:08:46,122 --> 01:08:48,124
Mereka hidup, tetapi jika mikroorganisme

1412
01:08:48,167 --> 01:08:50,517
menjadi gangguan, kami minum antibiotik

1413
01:08:50,561 --> 01:08:53,129
dan kami menghancurkan miliaran dari mereka sekaligus.

1414
01:08:57,220 --> 01:08:59,526
Jika Anda adalah kecerdasan buatan,

1415
01:08:59,570 --> 01:09:01,137
Anda tidak akan melihat 
setiap manusia kecil

1416
01:09:01,180 --> 01:09:03,008
yang memiliki 
pandangan yang sangat terbatas ini

1417
01:09:03,051 --> 01:09:05,402
seperti apa 
kita melihat mikroorganisme?

1418
01:09:09,188 --> 01:09:10,494
DULLEA: Mungkin saya akan melakukannya.

1419
01:09:13,410 --> 01:09:16,152
Mungkin tidak berarti manusia

1420
01:09:16,195 --> 01:09:18,632
adalah ancaman terbesar dari semua.

1421
01:09:21,505 --> 01:09:24,247
TEGMARK: 
Kadang-kadang ketika saya berbicara 
tentang risiko AI, orang-orang pergi,

1422
01:09:24,290 --> 01:09:26,162
"Ssst! Max, 
jangan bicara seperti itu.

1423
01:09:26,205 --> 01:09:28,338
"Itu keresahan Luddite 
."

1424
01:09:28,381 --> 01:09:30,035
Tapi itu bukan keresahan.

1425
01:09:30,078 --> 01:09:33,169
Itulah yang kami di MIT 
menyebut teknik keselamatan.

1426
01:09:35,867 --> 01:09:39,218
Maksudku, pikirkan tentang hal itu, sebelum NASA meluncurkan misi bulan Apollo 11,

1427
01:09:39,262 --> 01:09:40,785
mereka secara sistematis memikirkan

1428
01:09:40,828 --> 01:09:43,004
segala sesuatu yang bisa salah 
ketika Anda menempatkan banyak orang

1429
01:09:43,048 --> 01:09:45,616
di atas tangki bahan bakar eksplosif 
dan meluncurkannya di suatu tempat

1430
01:09:45,659 --> 01:09:48,532
di mana tidak ada yang bisa membantu mereka. 
Apakah itu menakutkan?

1431
01:09:48,575 --> 01:09:51,012
Tidak, itu tepatnya 
rekayasa keselamatan

1432
01:09:51,056 --> 01:09:54,538
yang menjamin 
keberhasilan misi.

1433
01:09:54,581 --> 01:09:58,498
Itulah strategi yang saya pikir harus kita ambil dengan AGI.

1434
01:09:58,542 --> 01:10:00,805
Pikirkan segala sesuatu yang bisa salah

1435
01:10:00,848 --> 01:10:02,720
untuk memastikan itu berjalan dengan benar.

1436
01:10:06,898 --> 01:10:08,856
Saya adalah siapa saya 
karena film

1437
01:10:08,900 --> 01:10:11,337
2001: A Space Odyssey.

1438
01:10:11,381 --> 01:10:14,601
Berusia 14, itu adalah 
pembuka mata bagi saya.

1439
01:10:14,645 --> 01:10:17,343
Film itu adalah yang terbaik 
dari semua fiksi ilmiah

1440
01:10:17,387 --> 01:10:20,912
dengan prediksi 
untuk bagaimana AI akan berkembang.

1441
01:10:23,088 --> 01:10:24,872
Namun dalam kenyataannya,

1442
01:10:24,916 --> 01:10:27,658
jika ada sesuatu yang cukup 
jauh di masa depan,

1443
01:10:27,701 --> 01:10:30,748
kita tidak bisa membayangkan seperti 
apa dunia nanti,

1444
01:10:30,791 --> 01:10:33,229
jadi kita sebenarnya tidak bisa mengatakan 
sesuatu yang masuk akal

1445
01:10:33,272 --> 01:10:34,447
tentang apa masalahnya.

1446
01:10:36,014 --> 01:10:37,233
LITTMAN: Khawatir tentang 
keamanan super-intelijen

1447
01:10:37,276 --> 01:10:39,278
sedikit seperti 
mengkhawatirkan

1448
01:10:39,322 --> 01:10:40,932
bagaimana Anda 
akan memasang sabuk pengaman

1449
01:10:40,975 --> 01:10:42,542
dalam perangkat transporter.

1450
01:10:42,586 --> 01:10:44,457
Seperti di Star Trek, di 
mana Anda bisa melakukan zip

1451
01:10:44,501 --> 01:10:46,242
dari satu tempat ke tempat lain.

1452
01:10:46,285 --> 01:10:48,331
Um, mungkin ada 
beberapa bahaya untuk itu,

1453
01:10:48,374 --> 01:10:49,941
jadi kita harus memiliki 
sabuk pengaman, bukan?

1454
01:10:49,984 --> 01:10:51,986
Tapi tentu saja itu sangat konyol 
karena kita tidak cukup tahu

1455
01:10:52,030 --> 01:10:53,466
tentang bagaimana 
teknologi transporter

1456
01:10:53,510 --> 01:10:55,338
mungkin terlihat bisa mengatakan

1457
01:10:55,381 --> 01:10:57,427
apakah sabuk pengaman bahkan berlaku.

1458
01:10:58,993 --> 01:11:01,648
GLEISER: Untuk mengatakan bahwa tidak 
akan ada masalah karena

1459
01:11:02,954 --> 01:11:04,869
tidak diketahui sangat luas,

1460
01:11:04,912 --> 01:11:07,567
bahwa kita bahkan tidak tahu di 
mana masalahnya 
,

1461
01:11:08,829 --> 01:11:10,570
itu gila.

1462
01:11:15,706 --> 01:11:18,056
Saya pikir percakapan 
mungkin satu-satunya 
cara maju di sini.

1463
01:11:18,099 --> 01:11:20,014
Saat ini, di 
antara kita sendiri,

1464
01:11:20,058 --> 01:11:21,364
dan ketika saatnya tiba,

1465
01:11:21,407 --> 01:11:23,627
dengan 
kecerdasan buatan yang muncul .

1466
01:11:25,716 --> 01:11:27,152
Jadi begitu 
ada sesuatu

1467
01:11:27,195 --> 01:11:28,719
jarak jauh di stadion baseball itu,

1468
01:11:28,762 --> 01:11:30,721
kita harus mulai mencoba 
melakukan percakapan

1469
01:11:30,764 --> 01:11:32,636
dengan itu entah bagaimana.

1470
01:11:33,637 --> 01:11:35,900
Anjing. Dog.SAGAR: Ya.

1471
01:11:35,943 --> 01:11:38,946
Salah satu hal yang kami harap 
dapat dilakukan dengan Baby X adalah mencoba

1472
01:11:38,990 --> 01:11:41,906
untuk mendapatkan wawasan yang lebih baik tentang 
sifat kita sendiri.

1473
01:11:43,777 --> 01:11:46,302
Dia dirancang 
untuk belajar secara mandiri.

1474
01:11:47,564 --> 01:11:50,610
Dia bisa dicolokkan 
ke Internet,

1475
01:11:50,654 --> 01:11:54,266
klik pada halaman web sendiri 
dan lihat apa yang terjadi,

1476
01:11:54,310 --> 01:11:56,442
semacam belajar bagaimana kita belajar.

1477
01:11:57,400 --> 01:12:00,707
Jika kita membuat 
AI yang sangat fantastis ini,

1478
01:12:00,751 --> 01:12:04,363
itu mungkin membantu kita menjadi 
versi yang lebih baik dari diri kita sendiri,

1479
01:12:06,365 --> 01:12:08,106
bantu kami berkembang.

1480
01:12:15,505 --> 01:12:17,550
Ini akan memiliki efek sosial.

1481
01:12:19,117 --> 01:12:20,597
Apakah harus ditakuti?

1482
01:12:22,381 --> 01:12:24,035
Atau itu sesuatu 
untuk dipelajari?

1483
01:12:28,648 --> 01:12:31,999
DULLEA: Jadi kapan 
kita dihadapkan dengan mesin

1484
01:12:32,043 --> 01:12:36,656
apakah itu sepintar, 
lebih pintar dari kita?

1485
01:12:38,571 --> 01:12:41,661
Saya pikir salah satu cara 
untuk berpikir tentang 
masa depan AI

1486
01:12:41,705 --> 01:12:44,708
adalah apa yang saya sebut 
cakrawala acara.

1487
01:12:46,231 --> 01:12:48,015
Orang-orang telah mendengar tentang lubang hitam,

1488
01:12:48,059 --> 01:12:50,191
titik super padat ini di mana

1489
01:12:50,235 --> 01:12:52,977
jika Anda terlalu dekat, Anda akan terjebak.

1490
01:12:53,020 --> 01:12:55,893
Ada batasnya. Setelah Anda melewati batas itu,

1491
01:12:55,936 --> 01:12:58,025
tidak ada jalan kembali.

1492
01:12:58,069 --> 01:13:02,900
Apa yang membuat itu berbahaya adalah Anda tidak tahu di mana itu.

1493
01:13:02,943 --> 01:13:05,816
Dan saya pikir AI sebagai teknologi 
akan seperti itu,

1494
01:13:05,859 --> 01:13:09,210
bahwa akan ada titik di 
mana logika uang

1495
01:13:09,254 --> 01:13:11,430
dan kekuatan dan janji

1496
01:13:11,474 --> 01:13:14,781
akan sedemikian rupa sehingga 
begitu kita melewati batas itu,

1497
01:13:14,825 --> 01:13:16,783
kita akan 
menuju masa depan itu.

1498
01:13:16,827 --> 01:13:19,395
Tidak akan ada jalan kembali, secara 
politik, ekonomi

1499
01:13:19,438 --> 01:13:21,658
atau bahkan dalam hal 
apa yang kita inginkan.

1500
01:13:21,701 --> 01:13:24,008
Tetapi kita perlu mengkhawatirkannya 
sebelum kita mencapai

1501
01:13:24,051 --> 01:13:27,315
cakrawala acara, 
dan kami tidak tahu di mana itu.

1502
01:13:27,359 --> 01:13:29,405
Saya tidak berpikir itu akan 
terjadi dalam waktu dekat.

1503
01:13:29,448 --> 01:13:31,145
Beberapa dekade berikutnya.

1504
01:13:31,189 --> 01:13:32,364
Dua puluh lima hingga 50 tahun.

1505
01:13:32,408 --> 01:13:33,452
Beberapa ratus tahun.

1506
01:13:33,496 --> 01:13:34,584
Sudah 
beberapa dekade ke depan.

1507
01:13:34,627 --> 01:13:35,802
Tidak dalam hidupku.

1508
01:13:35,846 --> 01:13:38,239
Tidak ada yang tahu. 
Tapi itu tidak masalah.

1509
01:13:38,283 --> 01:13:41,634
Baik itu tahun 
atau 100 tahun, 
masalahnya sama.

1510
01:13:41,678 --> 01:13:44,594
Sama nyata 
dan kita akan membutuhkan 
semua waktu untuk menyelesaikannya.

1511
01:13:49,816 --> 01:13:53,733
TEGMARK: 
Sejarah hanya penuh dengan 
prediksi teknologi yang berlebihan.

1512
01:13:53,777 --> 01:13:55,605
Seperti, di mana 
mobil-mobil terbang itu

1513
01:13:55,648 --> 01:13:57,389
yang seharusnya 
ada di sini, kan?

1514
01:13:57,433 --> 01:14:00,740
Tapi itu juga penuh 
dengan yang sebaliknya,

1515
01:14:00,784 --> 01:14:03,134
ketika orang berkata, 
"Oh, tidak akan pernah terjadi."

1516
01:14:07,878 --> 01:14:10,968
Saya malu sebagai ahli fisika bahwa Ernest Rutherford,

1517
01:14:11,011 --> 01:14:13,274
salah seorang fisikawan nuklir terhebat sepanjang masa berkata

1518
01:14:13,318 --> 01:14:15,929
energi nuklir itu tidak akan pernah terjadi.

1519
01:14:17,061 --> 01:14:18,932
Dan keesokan harinya,

1520
01:14:18,976 --> 01:14:22,458
Leo Szilard menciptakan 
reaksi berantai nuklir.

1521
01:14:22,501 --> 01:14:24,677
Jadi, jika seseorang mengatakan 
mereka sepenuhnya yakin

1522
01:14:24,721 --> 01:14:27,114
sesuatu tidak 
akan terjadi,

1523
01:14:27,158 --> 01:14:29,377
meskipun itu konsisten 
dengan hukum fisika,

1524
01:14:29,421 --> 01:14:31,510
Saya seperti, "Ya, benar."

1525
01:14:36,646 --> 01:14:38,430
HARRIS: Kami belum di sana.

1526
01:14:38,474 --> 01:14:41,477
Kami belum membuat AI yang sangat cerdas.

1527
01:14:45,002 --> 01:14:47,483
Dan bahkan jika kita menetapkan bahwa itu tidak akan terjadi

1528
01:14:47,526 --> 01:14:49,528
lebih pendek dari 50 tahun dari sekarang, kan?

1529
01:14:49,572 --> 01:14:52,183
Jadi kita punya 50 tahun untuk memikirkan hal ini.

1530
01:14:52,226 --> 01:14:53,706
Baik...

1531
01:14:53,750 --> 01:14:56,143
itu tidak tertulis 
50 tahun

1532
01:14:56,187 --> 01:14:59,059
cukup waktu untuk mencari tahu 
bagaimana melakukan ini dengan aman.

1533
01:15:01,018 --> 01:15:02,628
CAMERON: Saya benar-benar berpikir 
itu akan dilakukan

1534
01:15:02,672 --> 01:15:05,196
beberapa contoh negatif ekstrem

1535
01:15:05,239 --> 01:15:08,504
dari teknologi 
untuk semua orang untuk mundur

1536
01:15:08,547 --> 01:15:11,115
dan sadari bahwa 
kita harus mendapatkan benda ini

1537
01:15:11,158 --> 01:15:13,334
di bawah kendali, kita harus memiliki kendala.

1538
01:15:13,378 --> 01:15:16,207
Kita hidup 
di dunia fiksi ilmiah 
dan kita semua,

1539
01:15:16,250 --> 01:15:20,037
um, dalam 
eksperimen sosial dan taktis besar semacam ini ,

1540
01:15:20,080 --> 01:15:22,692
bereksperimen dengan diri kita sendiri 
,

1541
01:15:22,735 --> 01:15:25,172
seperti tidak ada dokter yang akan 
bermimpi melakukan.

1542
01:15:25,216 --> 01:15:26,522
Kami menyuntikkan diri

1543
01:15:26,565 --> 01:15:28,262
dengan segala sesuatu yang 
kita temukan

1544
01:15:28,306 --> 01:15:29,655
untuk melihat apa yang terjadi.

1545
01:15:31,875 --> 01:15:34,486
LITTMAN: Jelas, 
proses pemikiran adalah ...

1546
01:15:34,530 --> 01:15:36,140
Anda sedang membuat 
robot pembelajaran.

1547
01:15:36,183 --> 01:15:38,534
Belajar robot adalah 
apa yang mengarah ke Skynet.

1548
01:15:38,577 --> 01:15:40,884
Sekarang saya punya pilihan, 
bukan? Saya bisa bilang,

1549
01:15:40,927 --> 01:15:42,842
"Jangan khawatir, 
aku tidak bagus dalam pekerjaanku.

1550
01:15:43,887 --> 01:15:45,932
"Kamu tidak perlu takut 
karena aku payah dalam hal ini

1551
01:15:45,976 --> 01:15:48,108
"Dan aku tidak akan 
benar-benar mencapai apa pun."

1552
01:15:48,152 --> 01:15:50,458
Atau saya harus mengatakan, "Kamu tahu,

1553
01:15:50,502 --> 01:15:51,938
"Kamu benar, 
kita semua akan mati,

1554
01:15:51,982 --> 01:15:53,810
"Tapi itu akan 
menyenangkan untuk ditonton,

1555
01:15:53,853 --> 01:15:56,856
"Dan akan baik untuk menjadi 
salah satu dari orang-orang 
di barisan depan."

1556
01:15:56,900 --> 01:16:00,033
Jadi ya, saya tidak punya 
jawaban yang bagus 
untuk hal-hal ini.

1557
01:16:02,122 --> 01:16:04,734
Kebenaran, jelas, 
ada di antara keduanya.

1558
01:16:07,171 --> 01:16:09,260
DULLEA: 
Bisakah ada di antara keduanya?

1559
01:16:10,435 --> 01:16:13,264
Atau apakah kita menghadapi 
tatanan dunia baru?

1560
01:16:15,614 --> 01:16:18,965
Saya memiliki beberapa rekan yang 
baik-baik saja dengan AI mengambil alih

1561
01:16:19,009 --> 01:16:21,228
dan bahkan menyebabkan 
kepunahan manusia,

1562
01:16:21,272 --> 01:16:22,752
selama kita rasakan

1563
01:16:22,795 --> 01:16:25,189
bahwa AI itu 
adalah leluhur kita yang layak.

1564
01:16:28,453 --> 01:16:32,065
SCHMIDHUBER: 
Dalam jangka panjang, manusia 
tidak akan bertahan

1565
01:16:32,109 --> 01:16:34,372
mahkota ciptaan.

1566
01:16:36,679 --> 01:16:38,594
Tapi tidak apa-apa.

1567
01:16:38,637 --> 01:16:41,727
Karena masih ada keindahan

1568
01:16:41,771 --> 01:16:44,469
dan keagungan dan kebesaran

1569
01:16:44,512 --> 01:16:47,211
dalam menyadari bahwa Anda

1570
01:16:48,212 --> 01:16:51,955
bagian kecil dari

1571
01:16:51,998 --> 01:16:55,045
skema 
yang lebih megah yang memimpin alam semesta

1572
01:16:55,088 --> 01:16:59,223
dari kompleksitas yang lebih rendah 
menuju kompleksitas yang lebih tinggi.

1573
01:17:07,318 --> 01:17:11,017
CAMERON: Kita bisa dengan cepat mendekati jurang

1574
01:17:11,061 --> 01:17:13,063
untuk umat manusia di mana kita temukan

1575
01:17:13,106 --> 01:17:16,762
bahwa tujuan akhir kita adalah

1576
01:17:16,806 --> 01:17:20,113
leluhur dari yang benar

1577
01:17:20,157 --> 01:17:24,161
makhluk yang muncul, evolusioner, dan cerdas.

1578
01:17:26,990 --> 01:17:30,515
Jadi kita mungkin saja ada di sini 
untuk melahirkan

1579
01:17:30,558 --> 01:17:32,735
untuk anak ini ... 
Dari mesin ini ...

1580
01:17:32,778 --> 01:17:34,345
Peradaban mesin.

1581
01:17:37,957 --> 01:17:39,785
CHALMERS: Secara egois, 
sebagai manusia, tentu saja,

1582
01:17:39,829 --> 01:17:41,961
Saya ingin manusia tetap tinggal.

1583
01:17:44,355 --> 01:17:47,837
Tapi mungkin itu sudut pandang parokial yang sangat lokal.

1584
01:17:49,795 --> 01:17:52,102
Mungkin dilihat dari sudut 
pandang alam semesta,

1585
01:17:52,145 --> 01:17:53,973
ini adalah alam semesta yang lebih baik 
dengan ...

1586
01:17:54,017 --> 01:17:57,020
Dengan 
keturunan super-cerdas kami .

1587
01:18:03,766 --> 01:18:06,377
RUSSELL: Bidang kami 
kemungkinan akan berhasil

1588
01:18:06,420 --> 01:18:09,772
dalam tujuannya untuk mencapai 
kecerdasan tujuan umum.

1589
01:18:12,209 --> 01:18:16,082
Kami sekarang memiliki kemampuan 
untuk memodifikasi secara radikal

1590
01:18:16,126 --> 01:18:17,954
struktur ekonomi 
dunia,

1591
01:18:17,997 --> 01:18:19,825
peran manusia 
di dunia

1592
01:18:19,869 --> 01:18:22,480
dan, berpotensi, 
kontrol manusia atas dunia.

1593
01:18:34,666 --> 01:18:37,277
Idenya adalah 
dia diterima

1594
01:18:37,321 --> 01:18:39,192
oleh entitas seperti dewa,

1595
01:18:39,236 --> 01:18:42,239
makhluk energi murni 
dan kecerdasan.

1596
01:18:43,893 --> 01:18:47,897
Mereka menempatkannya dalam apa yang bisa Anda gambarkan sebagai kebun binatang manusia.

1597
01:18:49,812 --> 01:18:51,901
DULLEA: Akhir 
dari perjalanan astronot.

1598
01:18:56,601 --> 01:18:58,081
Apakah dia bepergian melalui waktu?

1599
01:18:58,864 --> 01:19:00,561
Ke masa depan?

1600
01:19:00,605 --> 01:19:04,827
Apakah entitas seperti dewa 
itu keturunan HAL?

1601
01:19:06,089 --> 01:19:09,092
Kecerdasan buatan 
yang tidak bisa Anda matikan,

1602
01:19:10,658 --> 01:19:13,879
yang terus belajar 
dan belajar sampai

1603
01:19:14,488 --> 01:19:16,316
mereka menjalankan kebun binatang,

1604
01:19:16,360 --> 01:19:18,144
alam semesta,

1605
01:19:18,188 --> 01:19:19,363
segala sesuatu.

1606
01:19:22,061 --> 01:19:26,022
Apakah itu 
ramalan paling mendalam Kubrick ?

1607
01:19:27,110 --> 01:19:28,154
Mungkin.

1608
01:19:30,548 --> 01:19:32,985
Tapi ambil dari orang tua.

1609
01:19:33,029 --> 01:19:35,466
Jika HAL hampir 
ada di antara kita,

1610
01:19:36,510 --> 01:19:38,121
kita perlu memperhatikan.

1611
01:19:39,470 --> 01:19:41,559
Kita perlu bicara tentang AI.

1612
01:19:42,734 --> 01:19:44,388
Kecerdasan super.

1613
01:19:44,431 --> 01:19:45,432
Apakah akan sadar?

1614
01:19:46,390 --> 01:19:47,478
Masalah troli.

1615
01:19:48,261 --> 01:19:49,306
Penjajaran tujuan.

1616
01:19:50,350 --> 01:19:51,743
Singularitas.

1617
01:19:51,787 --> 01:19:53,049
Pertama ke pasar.

1618
01:19:53,789 --> 01:19:54,964
Keamanan AI.

1619
01:19:56,008 --> 01:19:57,401
Senjata otonom mematikan.

1620
01:19:58,794 --> 01:19:59,969
Revolusi robot.

1621
01:20:00,708 --> 01:20:01,971
Pikiran sarang.

1622
01:20:03,320 --> 01:20:04,800
Gerakan transhuman.

1623
01:20:05,888 --> 01:20:08,629
Melampaui umat manusia.

1624
01:20:08,673 --> 01:20:10,196
Kami tidak punya rencana, 
kami tidak menyadari

1625
01:20:10,240 --> 01:20:11,807
perlu 
memiliki rencana.

1626
01:20:13,286 --> 01:20:15,549
Apa yang kita inginkan 
dari peran manusia?

1627
01:20:25,385 --> 01:20:27,997
[Bip]