Технологийн өвөрмөц байдал гэж юу вэ

2024 Зохиолч: Malcolm Clapton | [email protected]. Хамгийн сүүлд өөрчлөгдсөн: 2023-12-17 04:05

Ирээдүй нь санагдахаас ч ойрхон байна.

Технологийн өвөрмөц байдал гэж юу вэ

Технологийн онцгой байдал нь хүн технологийн дэвшлийг хянах чадвараа алдаж, эргээд эргэлт буцалтгүй болдог онолын мөч юм. Энгийнээр хэлбэл, ойрын ирээдүйд технологи маш их хөгжиж магадгүй тул хүн төрөлхтөн тэдэнтэй хөл нийлүүлэн алхаж, ойлгохоо болино.

Хиймэл оюун ухааныг бий болгох нь өвөрмөц байдалд хүрэх арга замыг ихэвчлэн авч үздэг боловч энэ нь цорын ганц боломжит арга биш юм. Тухайлбал, ойрын ирээдүйд хүнээс ч илүү хийх чадвартай машинууд (компьютер, роботууд) гарч ирэх магадлалтай бөгөөд үүнээс болж цасан нуранги шиг огцом технологийн үсрэлт болно.

Гэсэн хэдий ч ихэнхдээ ийм таамаглалыг Tegmark M. Life 3.0 бүтээсэн. Хиймэл оюун ухааны эрин үед хүн байх нь. - М., 2019 он шинжлэх ухааны таамаглал дээр биш, харин хиймэл оюун ухааны салбарын домог дээр.

Цаашилбал, технологийн онцгой байдлын үзэл баримтлалыг дэмжигчдийн үзэж байгаагаар ийм "оюуны тэсрэлт" улам бүр тохиолдох болно. Энэ нь нийгэмд бидний урьдчилан таамаглах, хянах боломжгүй эрс өөрчлөлтийг авчрах болно.

Энэ бол онцгой байдлын үр дагавар нь олон айдас төрүүлж, хүн төрөлхтний ирээдүйн талаар ярилцах үндэс суурь болдог. Эдгээр үр дагаврыг янз бүрийн аргаар үнэлдэг. Google-ийн гол хүн, яриа таних футурист Рэймонд Курцвейл технологийн дэвшил нь хүмүүсийг илүү сайн хүн болох сайхан боломж гэж үздэг. Илон Маск, Билл Гейтс, талийгаач Стивен Хокинг нар тэдний үнэлгээнд арай өөдрөг биш байна. Тэдний бодлоор ахиц дэвшил нь хүн төрөлхтнийг сүйрүүлэхэд хүргэдэг.

Технологийн онцгой байдлын урьдчилсан нөхцөл юу вэ

Технологийн дэвшлийн үр дагаврын тухай санаа зовнил гэнэт гарч ирээгүй. Орчин үеийн нийгэм, шинжлэх ухаанд өрнөж буй олон үйл явц ийм эргэцүүлэн бодоход хүргэж байна.

Техник, технологийн дэвшлийг хурдасгах

Дижитал эрин үе нь 1947 онд транзисторыг зохион бүтээснээр эхэлсэн бөгөөд өнөөг хүртэл үргэлжилж байна. 1965 онд Intel-ийг үүсгэн байгуулагчдын нэг ярихаар бэлтгэж байхдаа нэгэн сонирхолтой хэв маягийг олж мэдсэн: хоёр жил тутамд микро схем дэх транзисторын тоо хоёр дахин нэмэгддэг.

Түүнээс хойш бараг өөрчлөгдөөгүй: компьютерийн тооцоолол нь байнгын экспоненциал өсөлтийг харуулж байна. Технологийн дэвшил улам бүр ахих тусам технологийн дэвшлийг харуулсан муруй улам хурц болно. Хэдэн арван жилийн дотор түүний хурд хязгааргүйд хүрч чадна.

Harvey C. Big Data Challenges-ийн дагуу. 2017 онд Datamation-н датаматжуулалт нь дижитал өгөгдөл нь бидний удирдах чадвараас давсан. Түүнээс гадна хоёр жил тутамд хоёр дахин нэмэгддэг.

Технологийн хөгжлийн дараагийн алхамуудын нэг нь AGI (хиймэл ерөнхий оюун ухаан) -ийн шинэ бүтээл байж магадгүй юм. Энэ нэр томъёо нь хүн шиг эсвэл бүр илүү сайн харилцаж, сэтгэж, ажиллаж сурдаг хиймэл оюун ухааныг хэлдэг. Өөрөөр хэлбэл, AGI нь онолын хувьд хүмүүсийг бүх зүйлээр сольж чаддаг.

Хиймэл оюун ухааны хөгжил

Одоогийн байдлаар компьютерууд биднээс илүү бүх зүйлийг хийж чадахгүй, гэхдээ олон асуудлыг шийдэхдээ тэд хүнээс хамаагүй илүү ухаалаг байдаг (эсвэл ядаж түүнээс хурдан).

Бүр 4-5 жилийн өмнө Рэй Курцвейлийн өвөрмөц байдлын таамаглал 2045 он гэхэд биелнэ. 2045 он гэхэд хиймэл оюун ухаан хүний оюун ухааныг бүх талаар давна гэсэн Рэймонд Курцвейлийн футуризмыг маш зоримог гэж үзсэн (90-ээд оноос хойш түүний төсөөллийн 86% нь байсан ч гэсэн). биелэх).

Өнөөдөр 2025-2035 оны хооронд буюу түүнээс өмнөх үеийг аль хэдийн AGI гарч ирэх таамаглал гэж нэрлэдэг.

Pandaya J. The Troubling Trajectory Of Technological Singularity үүнд онцгой үүрэг гүйцэтгэж чадна. Форбс бидний тархи мэдээллийг хэрхэн боловсруулдагийг хуулбарладаг мэдрэлийн сүлжээний процессорууд болох нейроморфик чипүүдийг бүтээх болно. Одоогийн байдлаар энэ чиглэлээр судалгаа хийх нь үнэхээр үр дүнтэй загварыг олж авахаас хол хэвээр байгаа ч эргэлзээгүй амжилтанд хүрсэн байна. AI өнөөдөр юу хийж чадах вэ:

• сурах;
• стратегийн тоглоомуудад хүмүүсийг ялах (2015 онд AlphaGo хөтөлбөр нь ердөө 9 цагийн сургалтанд DeepMind болон Google-ийг олж авсан: хиймэл оюун ухааныг хянах тулаан. The Economist хүнээс илүү шатар тоглох чадвар);
• Тархины удирдлагатай гадаад араг яс нь саажилттай өвчтөнд алхах боломжийг олгоно. Нуруу нугасны гэмтэлтэй эрдэмтэд хөл дээрээ босдог;
• царайг таних;
• машин жолоодох;
• to paint Хиймэл оюун ухаан урлагийн дараагийн хэрэгсэл болох гэж байна уу? CHRISTIE'S болон холбогдох бичвэрүүд;
• UNC-д бий болгосон хиймэл оюун ухааны системийг бий болгох - Чапел Хилл эхнээс нь эм зохион бүтээдэг. UNC - CHAPEL HILL эмүүд;
• Хятадын төрийн мэдлийн "Синьхуа" агентлаг мэдээг уншихаар "AI-ийн хөтлөгч"-ийг анх гаргажээ. Mashable мэдээний сурвалжлага болон бусад олон.

2014 онд Google DeepMind болон Google-ийг худалдаж авсан: хиймэл оюун ухааныг хянах тулаан 600 сая доллар. The Economist by AlphaGo бол Британийн DeepMind компани бөгөөд AGI зохион бүтээх зорилготой байв. Британичуудын санаанууд Google-д нүдний өвчнийг оношлох, Паркинсон, Альцгеймерийн өвчнийг эрт илрүүлэх үр дүнтэй алгоритмыг бий болгоход тусалсан.

Ойрын ирээдүйд AGI гарч ирэхийг хүлээх нь зүйтэй болов уу. Гэсэн хэдий ч технологийн онцгой байдлын эхлэл нь үүнтэй шууд холбоотой биш юм.

Мэдрэлийн интерфейс үүсэх

Интернэт бол дэлхийн өнцөг булан бүрээс ирсэн хүмүүс хоорондоо бараг тасралтгүй техникийн зуучлагчаар дамжуулан харилцаж чаддаг үзэгдэл болох "дэлхийн тархи"-ын нэг хэлбэр гэж бид аль хэдийн ярьж болно.

Шинжлэх ухааны уран зөгнөлт киноны хэрэгслүүдэд илүү ойр байдаг төхөөрөмжүүд байдаг. Аль хэдийн 300 мянга гаруй хүн ашиглаж байна Бид Элон Маскийн тархи-компьютерийн интерфейстэй хэр ойрхон байна вэ? CNN Health дунгийн суулгац (сонсголын мэдрэлд шууд үйлчилдэг сонсголын хиймэл эрхтэн), бионик нүдний дээжийг хүмүүст туршиж байна. Эдгээр төхөөрөмжүүд хараа, сонсголыг бүрэн сэргээж чадахгүй хэвээр байгаа ч ажлын чанар сайжирч байна.

Мөн Илон Маск, Брайан Жонсон нар Илон Маскийн тархи-компьютерийн интерфейстэй бид хэр ойрхон байна вэ? CNN Health нь хүн-компьютерийн интерфейс (Neuralink ба Kernel) хөгжүүлэх стартапуудыг бий болгох талаар. Мэдээжийн хэрэг, удахгүй бид ухаалаг гар утсыг сэтгэлгээний хүчээр удирдаж чадна гэж хэлэхэд эрт байна: ийм бүх төхөөрөмжүүд хэтэрхий удаан, төгс бус хэвээр байна. Гэсэн хэдий ч энэ салбарт амжилтанд хүрэхэд ойрхон байна гэж үзэх бүх шалтгаан бий.

Техникийн дэвшлийн шалтгаан юу вэ?

AI болон роботууд оюуны болон бие бялдрын нарийн төвөгтэй ажлыг хийх болно

Хиймэл оюун ухаан, робот техникийг хөгжүүлэх нь эцсийн эцэст машинууд хүний оролцоогүйгээр эсвэл хамгийн бага оролцоогүйгээр бүх зүйлийг хийж сурахад хүргэж болзошгүй юм. Энэ тохиолдолд ахиц дэвшил улам бүр хурдасч, хүмүүсийн амьдрал, амьдралыг улам бүр сайжруулах болно.

Компьютерийг хүн төрөлхтөн шинжлэх ухааны судалгаа, технологийг сайжруулахад аль хэдийн ашигладаг болсон. Үүний ачаар (жишээлбэл, генетикийн судалгаа эсвэл хүний тархины чадавхийг сайжруулдаг төхөөрөмж бүтээх) хүмүүс өөрсдөө илүү ухаалаг болж, машинууд илүү хурдан болдог. Тиймээс зөвхөн компьютер төдийгүй хүний хөгжил хурдасч байна.

Хүмүүс өөрсдөдөө шинэ чадварыг нээх болно

Хүнийг технологитой хослуулах нь зөвхөн бие махбодийн (протез ашиглах, өөрчлөх) төдийгүй мэдээллийн түвшинд (гаджет ашиглах) тохиолддог. Таны халаасанд мобайл интернеттэй ухаалаг утас бол киборг болох эхний алхам юм.

Трансхуманизмын хөдөлгөөн хүртэл бий. Британника бол технологийн дэвшлээр хүний биеийг идэвхтэй сайжруулахын төлөө тэмцэгч юм. Трансхуманистууд бие махбодийг өөрчлөх нь цаг үетэйгээ хөл нийлүүлэн алхаж, хүн төрөлхтний хувь заяаг машины мэдэлд оруулахгүй байх цорын ганц арга зам гэж үздэг.

Гэсэн хэдий ч өнөөг хүртэл хүний биоробот бий болсон нь уран зөгнөлийн хүрээнд байсаар байна.

Шинэ технологиуд нь үхэшгүй мөнхийн замыг нээж байна

ДНХ-ийн хязгаарлалтыг арилгах нь энэ талбарт илүү гоёмсог шийдэл байх шиг байна. Генетик ба биоинженерчлэл Пандая Ж. Технологийн өвөрмөц байдлын асуудалтай замнал. Forbes, түүнчлэн nootropics нь хүмүүсийг илүү ухаалаг болгодог. Хиймэл аргаар ургуулсан эрхтэн буюу наномашины тусламжтайгаар хүмүүс хөгшрөлтөөс салж, үхэшгүй мөнх байдалд хүрэх боломжтой.

Гагцхүү эдгээр боломжуудыг хүн хэр хурдан ашиглаж сурах (болон сурах), нийгэм, төр үүнийг зөвшөөрөх эсэх зэрэг асуултууд л үлддэг. Ийм технологийг нэвтрүүлэхийг удаашруулж буй нийгмийн хүчин зүйлсийг үл тоомсорлож байсан ч генийн өөрчлөлттэй хүмүүс төрж, боловсрол эзэмшихэд олон жил шаардагдана. Супер оюун ухааны бусад хэлбэрүүд (AI) илүү хурдан гарч ирдэг.

Хяналтгүй технологийн хөгжлийг эсэргүүцэгчид юу гэж хэлдэг

Хиймэл оюун ухаан хүн төрөлхтнийг устгаж чадна

AGI-ийн хөгжил нь хүний тархины хөгжил, биднийг хүчирхэгжүүлэх технологийн хөгжлөөс давж гарах магадлалтай. Хиймэл оюун ухаан нь хүнийхээс давж гарах чадвартай бөгөөд гутранги нөхцөлд хяналтаас амархан гарч чаддаг.

Оксфордын их сургуулийн доктор Ник Бостром Bostrom N. Superintelligence: Paths, Dangers, Strategies гэж үздэг. - Оксфордын их сургуулийн хэвлэл, 2014 он. Санаа зовоох шалтгаан байна. Түүний бодлоор оюун ухаан хичнээн хөгжсөн байсан ч энэ нь түүний эзний үйлдэл муу эсвэл сайн байх эсэхэд нөлөөлдөггүй. Тиймээс хиймэл оюун ухаан хичнээн ухаалаг байсан ч энэ нь муу зүйл хийхээс хамгаалдаггүй.

Чухал Tegmark M. Life 3.0. Хиймэл оюун ухааны эрин үед хүн байх нь. - М., 2019, ингэснээр AGI хүн төрөлхтний зорилгыг ойлгож, хүлээн зөвшөөрч, тэдгээрийг дагаж мөрддөг. Хэрэв тэрээр өөрийгөө хамгаалах, нөөцийг олж авах эсвэл сониуч зангаа хангах гэх мэт бусад тэргүүлэх чиглэлийг өөртөө тавьдаг бол хүмүүс болон машинуудын хоорондын харилцаанд зөрчилдөөн үүсэх болно.

Хүний биеийг шинэчлэх нь нийгмийг цаашид давхаргажуулахад хүргэдэг

Хүний биеийг өөрчлөх нь "Хүний 2.0"-ыг бий болгоод зогсохгүй нийгмийн зөрчилдөөнийг улам хурцатгаж чадна. Ийм технологид нэвтрэх боломжтой хүмүүс эдгээр чадваргүй хүмүүсээс давуу байх нь ойлгомжтой.

Ёс суртахууны болон хууль эрх зүйн чухал асуудлууд гарч ирдэг: нэг хүнд нөгөөгөөсөө оюуны болон / эсвэл бие махбодийн давуу талыг өгөх боломжтой юу, "биомеханик хүмүүсийг" хакеруудаас хэрхэн хамгаалах вэ.

Буруу гарт орчихвол технологи нь үхлийн аюултай зэвсэг болж чаддаг

Өөртөө байгаа хүн бол маш том аюул гэдгийг бүү мартаарай. Цэргийнхэн аль хэдийн нисгэгчгүй онгоц, программчлагдсан машинуудыг зэвсэг болгон ашиглаж байгаа бөгөөд сошиал медиа луйварчидаар дүүрэн байна. Хүмүүс шинэ технологийг урвуулан ашиглаж эхлэх магадлал өндөр байна.

Гэхдээ үүнээс өмнө бид зүгээр л амьд үлдэх эрсдэлтэй, учир нь одоо байгаа зэвсэг хүртэл аюултай. Массачусетсийн Технологийн Институтын профессор, астрофизикч Макс Тегмарк статистик магадлалын томъёог ашиглан Tegmark M. Life 3.0-ийг тооцоолжээ. Хиймэл оюун ухааны эрин үед хүн байх нь. - М., 2019 Дэлхийн цөмийн дайны эрсдэл харилцан сүйрэлд хүргэж байна. Хэрэв нэг жилийн дотор 0.001 магадлал байвал 10 мянган жилийн дараа цөмийн сүйрэл 99.95% байх магадлалтай гэж тэрээр дүгнэжээ. Маш сайн судлагдсан зэвсгийг тогтоон барьдаг систем ч бүтэлгүйтдэг. Асуулт гарч ирнэ: бид илүү төвөгтэй технологиудыг буруу гарт оруулахгүйн тулд удирдаж чадах уу?

Биднийг ямар ирээдүй хүлээж байгаа бол

Үүний зэрэгцээ Макс Тегмарк Tegmark M. Life 3.0-ийг шүүмжлэлтэй үнэлдэг. Хиймэл оюун ухааны эрин үед хүн байх нь. - М., 2019 гутранги хувилбар гарах магадлал. Өөрийгөө сайжруулах боломжууд нь физикийн хуулиар хязгаарлагддаг гэж тэр үздэг. Жинхэнэ онцгой байдал нь хязгааргүй хурдацтай ахиц дэвшил болох Тегмаркийн үзэж байгаагаар энэ үйл явц нь хязгааргүйд ойртох чадвартай хэдий ч боломжгүй юм.

Тиймээс технологийн үсрэлтийг дагаад дэлхийн талаарх мэдлэгийг бүхэлд нь эсвэл бараг бүхэлд нь хурдан олж авах болно, харин тэдний эцэс төгсгөлгүй хуримтлал бий болно гэж профессор нотолж байна.

Өөр нэг үзэл бодлын дагуу юу ч, тэр дундаа ахиц дэвшил нь хязгааргүй хурдасч чадахгүй - эрт орой хэзээ нэгэн цагт энэ нь удаашрах болно.

Гэсэн хэдий ч хүн төрөлхтөн удаашрах цэгийг хараахан даваагүй гэж бид итгэлтэйгээр хэлж чадна.

Бүх эрдэмтэд технологийн онцгой байдлын онолыг ерөнхийд нь хуваалцдаггүй. Өнөөг хүртэл байгальд хязгааргүй, хязгааргүй хурдан хөгждөг ямар ч үзэгдэл илрээгүй гэж зарим хүмүүс тэмдэглэдэг. Үүний зэрэгцээ, судлаачид энэ чиглэлийн нэлээд олон тооны урьдчилсан мэдээ нь объектив өгөгдөл дээр биш, харин урьдчилан таамаглагчдын өөрсдийнх нь хүсэлд тулгуурладаг болохыг онцолж байна.

Жишээлбэл, хиймэл оюун ухаан нь хувийн шинж чанаргүй, цэвэр ашиг тустай хэвээр үлдэж чадна. Нэг DeepMind-ийн алгоритмууд DeepMind болон Google-ийн хараахан чадахгүй байна: хиймэл оюун ухааныг хянах тулаан. Хэрэв ямар нэг зүйл буруу болж, урьдчилан тодорхойлсон нөхцөл өөрчлөгдвөл The Economist шийдэл олдог.

Одоогоор хиймэл оюун ухаан зөвхөн тооцоолох хүчин чадлаараа биднийг гүйцэж түрүүлж байна. Гэхдээ хүмүүс хэдхэн минутын дотор эзэмшиж чадах зүйлийг энэ программ нь хүний туршлагатай харьцуулбал хэдэн мянган цаг зарцуулдаг.

Жишээлбэл, AlphaGo Space Invaders тоглож сурахын тулд олон мянган оролдлого хийх ёстой. Эцсийн эцэст програм нь хүнээс илүү сайн тоглох болно, гэхдээ тэр үйл явцыг илүү хурдан эзэмших болно.

Тиймээс аль ч урьдчилсан таамаглалыг 100% магадлалтай гэж үзэх боломжгүй юм. Гэхдээ энэ нь технологийн өвөрмөц байдлын санааг бүрмөсөн орхих шалтгаан биш юм.

Хүн төрөлхтний хувь заяаны тодорхой хувилбаруудыг хэрэгжүүлэх нь технологийн хөгжлийн чиг хандлага, хэний гарт байх, хэрхэн зохицуулахаас ихээхэн шалтгаална. Мөн технологи хэр боловсронгуй болох нь ихээхэн үүрэг гүйцэтгэнэ. Хөгжил дэвшилд нөлөөлж болох нийгэм, геополитик, эдийн засгийн хүчин зүйлийн талаар бүү мартаарай. Технологийн өвөрмөц байдал үүссэн тодорхой огнооны талаар ярихад хэцүү байдаг.

Хэрэв хүн олон төрлийн үйл ажиллагаанд (жишээлбэл, шинжлэх ухаан) шаардлагагүй бол оршин тогтнох уу? ДНХ-ийн оролцоо эсвэл мэдрэлийн интерфэйсээр өөрчлөгдсөн хүн хүн хэвээр үлдэх үү? Эдгээр асуултын хариу бидэнд алга. Компьютер, дижитал технологи бий болсноор хүн аль хэдийн эргэлт буцалтгүй өөрчлөгдсөн байж магадгүй юм.

Гэхдээ нэг зүйл туйлын тодорхой: хувьслын үйл явц нь байгалийн бөгөөд зогсоох боломжгүй юм. Бид түүнийг удаашруулж чадахгүй. Эцсийн эцэст, машинууд биднийг бие биенээ алахгүй, доромжлохгүй байхыг зааж, тэдэнд итгэх ёстой болов уу?

Иймд Tegmark М.-ийн зөвлөснөөр Амьдрал 3.0. Хиймэл оюун ухааны эрин үед хүн байх нь. - М., 2019 Макс Тегмарк, таныг айлгаж буй ирээдүйнхээ тухай биш харин хүсч буй ирээдүйнхээ тухай бод.