WEBVTT

00:00:00.739 --> 00:00:04.861
ჩემი პირველი სამსახური
პროგრამისტად დავიწყე.

00:00:04.885 --> 00:00:06.841
ეს იყო კოლეჯის პირველ წელს,

00:00:06.865 --> 00:00:08.782
როცა ფაქტიურად თინეიჯერი ვიყავი.

NOTE Paragraph

00:00:08.889 --> 00:00:10.621
მუშაობის დაწყებიდან მალევე,

00:00:10.645 --> 00:00:13.505
რაც კომპანიისთვის
პროგრამების წერას გულისხმობდა,

00:00:13.505 --> 00:00:16.434
კომპანიაში მომუშავე მენეჯერი მოვიდა ჩემთან

00:00:16.458 --> 00:00:17.906
და ჩამჩურჩულა:

00:00:18.229 --> 00:00:21.500
"შეუძლია მას მიხვდეს, ვიტყუები თუ არა?"

00:00:21.806 --> 00:00:24.293
ოთახში მეტი არავინ იყო.

NOTE Paragraph

00:00:25.032 --> 00:00:29.421
"ვის შეუძლია მიხვდეს?
და რატომ ვჩურჩულებთ?"

NOTE Paragraph

00:00:30.266 --> 00:00:33.373
მენეჯერმა ოთახში მდგარ
კომპიუტერზე მიმანიშნა.

00:00:33.397 --> 00:00:36.493
"შეუძლია მიხვდეს, რომ ვიტყუები?"

00:00:37.613 --> 00:00:41.975
ამ მენეჯერს მდივანთან რომანი ჰქონდა.

NOTE Paragraph

00:00:41.999 --> 00:00:43.111
(სიცილი)

NOTE Paragraph

00:00:43.135 --> 00:00:45.351
მე ჯერ კიდევ თინეიჯერი ვიყავი

00:00:45.447 --> 00:00:47.466
და ჩურჩულით დავუყვირე:

00:00:47.490 --> 00:00:51.114
"დიახ, კომპიუტერს შეუძლია მიხვდეს,
რომ იტყუებით"

NOTE Paragraph

00:00:51.138 --> 00:00:52.944
(სიცილი)

NOTE Paragraph

00:00:52.968 --> 00:00:55.891
მე კი ვიცინე,
მაგრამ ახლა მე ვარ დასაცინი.

00:00:55.915 --> 00:00:59.183
დღესდღეობით არსებობს
გამოთვლითი სისტემები,

00:00:59.207 --> 00:01:02.519
რომლებსაც შეუძლიათ ადამიანის
სახის დამუშავებით,

00:01:02.519 --> 00:01:05.083
ემოციური მდგომარეობის
და ტყუილის გამოცნობაც კი.

00:01:05.248 --> 00:01:10.001
სარეკლამოები და მთავრობებიც კი,
ძალიან დაინტერესებულები არიან.

NOTE Paragraph

00:01:10.319 --> 00:01:12.181
მე პროგრამისტი იმიტომ გავხდი,

00:01:12.205 --> 00:01:16.218
რომ ერთ-ერთი იმ ბავშთაგანი ვიყავი,
ვინც მათემატიკაზე და მეცნიერებაზე გიჟდება,

00:01:16.218 --> 00:01:19.050
მაგრამ რაღაც მომენტში
ბირთვულ იარაღზე შევიტყვე

00:01:19.074 --> 00:01:22.026
და სერიოზულად დავფიქრდი
სამეცნიერო ეთიკაზე.

00:01:22.050 --> 00:01:23.254
ამან შემაწუხა.

00:01:23.278 --> 00:01:25.919
თუმცა, ოჯახური გარემოებების გამო

00:01:25.943 --> 00:01:29.241
სამსახურის დაწყება სასწრაფოდ მჭირდებოდა.

00:01:29.265 --> 00:01:32.564
ამიტომ ტექნიკური სფეროს
არჩევა გადავწყვიტე,

00:01:32.588 --> 00:01:34.384
სადაც სამსახურს უფრო ადვილად ვიშოვიდი

00:01:34.408 --> 00:01:38.426
და სადაც არ მომიწევდა პრობლემურ
ეთიკურ კითხვებთან ჭიდილი.

00:01:39.022 --> 00:01:40.851
შედეგად კომპიუტერები ავარჩიე.

NOTE Paragraph

00:01:40.851 --> 00:01:41.679
(სიცილი)

NOTE Paragraph

00:01:41.703 --> 00:01:45.113
ჰა ჰა ჰა.. მე ვარ დასაცინი.

00:01:45.137 --> 00:01:47.891
დღესდღეობით, კოპიუტერული მეცნიერები
ქმნიან პლატფორმებს,

00:01:47.915 --> 00:01:52.124
რომლებიც აკონტროლებენ, თუ რას ნახულობს
მილიარდობით ადამიანი ყოველდღე.

00:01:53.052 --> 00:01:57.354
ისინი ქმნიან მანქანებს,
რომლებიც წყვეტენ თუ ვის დაარტყან.

00:01:57.707 --> 00:02:00.920
ისინი ისეთ მანქანებს
და იარაღებსაც კი ქმნიან,

00:02:00.944 --> 00:02:03.229
რომლებსაც ადამიანების მოკვლა
შეუძლიათ ომში.

00:02:03.253 --> 00:02:06.764
აქ ყველგან ეთიკაა.

NOTE Paragraph

00:02:07.183 --> 00:02:09.531
მანქანური ინტელექტი აწმყოა.

00:02:09.823 --> 00:02:13.297
ჩვენ ამჟამად კომპიუტერებს მთელი რიგი
გადაწყვეტილებების მისაღებად ვიყენებთ

00:02:13.321 --> 00:02:15.207
და ასევე ახალი გადაწყვეტებისთვისაც.

00:02:15.231 --> 00:02:20.403
ჩვენ კომპიუტერებს ისეთ კითხვებს ვუსვამთ,
რომლებსაც არ აქვთ ერთი სწორი პასუხი,

00:02:20.427 --> 00:02:21.629
რომლებიც სუბიექტურია

00:02:21.653 --> 00:02:23.978
და ღიაა ინტერპრეტაციებისა
და შეფასებისთვის.

NOTE Paragraph

00:02:24.002 --> 00:02:25.760
მაგალთად ვუსვამთ კითხვებს:

00:02:25.784 --> 00:02:27.894
"ვინ უნდა იქირაოს კომპანიამ?"

00:02:28.096 --> 00:02:30.855
"რომელი მეგობრის,
რომელი სიახლე უნდა გაჩვენოთ"

00:02:30.879 --> 00:02:34.145
"რომელმა ნასამართლევმა უფრო დიდი შანსია,
რომ გაიმეოროს დანაშაული"

00:02:34.145 --> 00:02:36.568
"რომელი სიახლე,
ან ფილმი უნდა შევთავაზოთ ხალხს?"

NOTE Paragraph

00:02:36.592 --> 00:02:39.964
დიახ, ჩვენ დიდი ხანია
ვიყენებთ კომპიუტერებს,

00:02:39.988 --> 00:02:41.505
მაგრამ ეს სხვა რამეა.

00:02:41.529 --> 00:02:43.596
ეს ისტორიული შემობრუნებაა,

00:02:43.620 --> 00:02:48.957
რადგან ჩვენ ვერ დავაფუძნებთ კომპიუტერებზე
ასეთ სუბიექტურ გადაწყვეტილებებს,

00:02:48.981 --> 00:02:54.401
როგორც ვაკეთებდით თვითმფრინავის მართვის,
ხიდების აშენების,

00:02:54.425 --> 00:02:56.414
და მთვარეზე გაფრენის შემთხვევაში.

00:02:56.449 --> 00:02:59.708
თვითმფინავები ხომ უფრო უსაფრთხოა?
ხიდებიც არ ინგრევა.

00:02:59.732 --> 00:03:04.230
ამ შემთხვევებში მკაფიო წესებზე შევთანხმდით

00:03:04.254 --> 00:03:06.493
და ბუნების კანონებით ვხემძღვანელობთ.

00:03:06.517 --> 00:03:09.911
ჩვენ არ გვაქვს მსგავსი ნიშნულები და წესები

00:03:09.935 --> 00:03:13.898
ადამიანთა უწესრიგო ურთიერთობებში.

NOTE Paragraph

00:03:13.922 --> 00:03:18.159
ამ ყველაფერს ის უფრო ამძიმებს,
რომ ჩვენი პროგრამები სულ უფრო ძლევამოსილი

00:03:18.183 --> 00:03:21.956
და ამავე დროს ნაკლებად გასაგები
და უფრო კომპლექსური ხდება

00:03:22.542 --> 00:03:24.582
ცოტა ხნის წინ, გასულ ათწლეულში,

00:03:24.606 --> 00:03:27.335
კომპლექსურ ალგირითმებს
დიდი მიღწევები ჰქონდათ.

00:03:27.359 --> 00:03:29.779
მათ ადამიანის სახეების ამოცნობა შეუძლიათ.

00:03:29.985 --> 00:03:32.260
ხელნაწერის გარჩევა შეუძლიათ,

00:03:32.436 --> 00:03:34.502
შეუძლიათ ყალბი საკრედიტო ბარათი ამოიცნონ

00:03:34.526 --> 00:03:35.715
და დაბლოკონ სპამი.

00:03:35.739 --> 00:03:37.776
ასევე თარგმნონ სხვადასხვა ენებზე.

00:03:37.800 --> 00:03:40.544
მათ რენტგენის სურათზე
სიმსივნის აღმოჩენა შეუძლიათ.

00:03:40.544 --> 00:03:43.023
ისინი ჭადრაკში ადამიანს ამარცხებენ.

NOTE Paragraph

00:03:43.264 --> 00:03:47.768
ამ პროგრესის უმეტესობა
ე.წ. "მანქანური სწავლებით" მიიღწევა.

00:03:48.175 --> 00:03:51.362
მანქანური სწავლება
განსხვავდება ტრადიციული პროგრამირებისგან,

00:03:51.386 --> 00:03:54.971
როცა კომპიუტერს ზუსტ
და დეტალურ ინსტრუქციებს აძლევთ.

00:03:55.378 --> 00:03:59.154
ამ შემთხვევაში სისტემას
ბევრ მონაცემს აწვდით,

00:03:59.154 --> 00:04:01.204
მათ შორის უსტრუქტურო მონაცემს.

00:04:01.204 --> 00:04:04.362
ისეთი ტიპის მონაცემებს, რომლებსაც
ჩვენ ციფრულ ცხოვრებაში ვქმნით

00:04:04.362 --> 00:04:06.636
და სისტემა ამ მონაცემების
გარჩევას სწავლობს.

00:04:06.669 --> 00:04:08.195
ასევე, საკვანძოა,

00:04:08.219 --> 00:04:12.599
რომ ეს სისტემები
ერთპასუხიანი ლოგიკით არ მუშაობენ.

00:04:12.623 --> 00:04:15.582
ისინი მარტივ პასუხს არ იძლევიან;
პასუხი უფრო სავარაუდოა:

00:04:15.606 --> 00:04:19.089
"სავარაუდოდ ამას უფრო ეძებდით"

NOTE Paragraph

00:04:20.023 --> 00:04:23.093
ამის დადებითი მხარე ისაა,
რომ ეს მეთოდი მართლაც ეფექტურია.

00:04:23.117 --> 00:04:26.143
გუგლის ხელოვნური ინტელექტის
სისტემების ხელმძღვანელმა მათ უწოდა:

00:04:26.143 --> 00:04:28.144
"მონაცემების ირაციონალური ეფექტურობა"

00:04:28.144 --> 00:04:29.614
უარყოფითი მხარე კი,

00:04:29.738 --> 00:04:32.809
რომ ჩვენ რეალურად არ ვიცით
რა ისწავლა სისტემამ.

00:04:32.833 --> 00:04:34.920
პრინციპში, სწორედ ესაა მისი ძალა.

00:04:34.946 --> 00:04:38.744
ეს კომპიუტერისთვის
ინსტრუქციების მიცემას არ ჰგავს.

00:04:39.200 --> 00:04:43.264
ეს უფრო ლეკვ-მანქანის წვრთნაა.

00:04:43.288 --> 00:04:46.139
ჩვენ რეალურად არ გვესმის
და ვერ ვაკონტროლებთ.

00:04:46.362 --> 00:04:48.253
ჩვენი პრობლემაც ესაა.

00:04:48.427 --> 00:04:52.689
პრობლემაა, როცა ხელოვნურ ინტელექტს
რაღაც არასწორად ესმის.

00:04:52.713 --> 00:04:56.253
ასევე პრობლემაა,
როცა მას რაღაც სწორად ესმის,

00:04:56.277 --> 00:04:59.905
რადგან ჩვენ არც კი ვიცით რა, რა არის,
როცა პრობლემა სუბიექტურია.

00:04:59.929 --> 00:05:03.018
ჩვენ არ ვიცით ეს მოწყობილობა რას ფიქრობს.

NOTE Paragraph

00:05:03.493 --> 00:05:07.176
განვიხილოთ კადრების ალგორითმი.

00:05:08.123 --> 00:05:12.434
სისტემა, რომელსაც თანამშრომლები
მანქანური სწავლების გამოყენებით აჰყავს.

00:05:13.052 --> 00:05:16.631
ასეთი სისტემა, არსებული თანამშეომლების
მონაცემებზეა გაწვრთნილი,

00:05:16.655 --> 00:05:19.246
რომ იპოვოს და შეარჩიოს

00:05:19.270 --> 00:05:22.698
არსებული მაღალი შედეგების
მქონე თანამშრომლების მსგავსი ხალხი.

00:05:22.814 --> 00:05:23.967
მშვენივრად ჟღერს.

00:05:23.991 --> 00:05:25.990
ერთხელ კონფერენციას დავესწარი,

00:05:26.014 --> 00:05:29.063
რომელსაც კადრების მენეჯერები
და აღმასრულებლები ესწრებოდნენ,

00:05:29.063 --> 00:05:30.369
მაღალი თანამდებობის ხალხი,

00:05:30.393 --> 00:05:32.412
რომლებიც მსგავს სისტემებს იყენებდნენ.

00:05:32.412 --> 00:05:33.912
ისინი აღტაცებულები იყვნენ,

00:05:33.912 --> 00:05:38.299
მათ წარმოედგინათ, რომ ეს თანამშრომლების
აყვანის პროცესს უფრო ობიექტურს გახდიდა

00:05:38.323 --> 00:05:41.323
და ქალებს და უმცირესობებს,
ადამიანი მენეჯერების

00:05:41.347 --> 00:05:43.535
ტენდენციურობასთან შედარებით
მეტ შანსს მისცემდა.

NOTE Paragraph

00:05:43.559 --> 00:05:46.862
და მართლაც ადამიანების მიერ შერჩევა
ტენდენციურია.

00:05:47.099 --> 00:05:48.284
ეს ვიცი.

00:05:48.308 --> 00:05:51.313
ერთ-ერთ ჩემ პირველ სამსახურში
სადაც პროგრამისტი ვიყავი,

00:05:51.337 --> 00:05:55.205
ჩემი უფროსი ზოგჯერ მოვიდოდა ხოლმე,

00:05:55.229 --> 00:05:58.982
ძალიან ადრე დილას,
ან გვიან შუადღეს და მეტყოდა:

00:05:59.006 --> 00:06:02.438
"ზეინეპ, მოდი, ლანჩზე წავიდეთ!"

00:06:02.724 --> 00:06:04.891
მე გაკვირვებული ვიყავი ხოლმე ასეთ დროს.

00:06:04.915 --> 00:06:07.044
4 საათია, ლანჩი?

00:06:07.068 --> 00:06:10.522
საშუალება არ მქონდა,
ამიტომ ამ უფასო ლანჩზე მივდიოდი.

00:06:10.618 --> 00:06:12.685
მოგვიანებით აღმოვაჩინე რაც ხდებოდა.

00:06:12.709 --> 00:06:17.255
ჩემ უშუალო უფროსს
თავისი უფროსისთვის არ უთქვამს,

00:06:17.279 --> 00:06:20.392
რომ პროგრამისტი,
რომელიც სერიოზული სამუშაოსთის აიყვანა

00:06:20.416 --> 00:06:24.346
თინეიჯერი გოგო იყო, რომელიც ჯინსებით
და ბოტასებით დადიოდა სამსახურში.

00:06:24.564 --> 00:06:27.376
მე კარგად ვმუშაობდი,
უბრალოდ არასათანადოდ გამოვიყურებოდი

00:06:27.400 --> 00:06:29.429
და შეუსაბამო ასაკის და სქესის ვიყავი.

NOTE Paragraph

00:06:29.429 --> 00:06:32.469
ასე რომ, სქესის
და რასის გარეშე სამსახურში აყვანა

00:06:32.493 --> 00:06:34.358
ნამდვილად კარგად ჟღერს.

00:06:35.031 --> 00:06:38.372
თუმცა, ამ სისტემებით
ეს უფრო რთულია და აი რატომ:

00:06:38.968 --> 00:06:44.263
დღესდღეობით გამოთვლით სისტემებს ბევრი
რამის ამოცნობა შეუძლიათ თქვენ შესახებ,

00:06:44.263 --> 00:06:46.655
თქვენი ციფრული კვალის მიხედვით

00:06:46.679 --> 00:06:49.442
მაშინაც კი, თუ ეს მონაცემები
არსად განგითავსებიათ.

00:06:49.506 --> 00:06:52.433
მათ შეუძლიათ ამოიცნონ
თქვენი სექსუალური ორიენტაცია,

00:06:52.994 --> 00:06:54.480
პიროვნული თვისებები,

00:06:54.859 --> 00:06:56.402
პოლიტიკური გემოვნება.

00:06:56.830 --> 00:07:00.515
მათ მაღალი სიზუსტით
პროგნოზირების უნარი აქვთ.

00:07:01.362 --> 00:07:03.940
გახსოვდეთ... ისეთი რამეების,
რაც თქვენ არ გაგიმხელიათ.

00:07:03.964 --> 00:07:05.555
ეს ვარაუდით ხდება.

NOTE Paragraph

00:07:05.579 --> 00:07:08.840
მე მყავს მეგობარი,
რომელმაც ასეთი გამოთვლითი სისტემა შექმნა.

00:07:08.864 --> 00:07:12.149
ეს სისტემა სოციალური ქსელების
მონაცემების მიხედვით

00:07:12.149 --> 00:07:15.365
კლინიკური, ან პოსტნატალური
დეპრესიის ალბათობას პროგნოზირებს.

00:07:15.365 --> 00:07:16.523
შედეგები შთამბეჭდავია.

00:07:16.523 --> 00:07:19.849
მის სისტემას დეპრესიის პროგნოზირება

00:07:19.873 --> 00:07:23.776
ნაბისმიერი სიმპტომების გაჩენამდე,
თვეებით ადრე შეუძლია...

00:07:23.800 --> 00:07:25.173
თვეებით ადრე.

00:07:25.197 --> 00:07:27.443
პროგნოზი უსიმპტომებოდ.

00:07:27.467 --> 00:07:32.559
ის იმედოვნებს, რომ ამას ადრეული
ინტერვენციისთვის გამოიყენებენ. მშვენიერია!

00:07:32.911 --> 00:07:35.831
ახლა ეს სამსახურში
აყვანის კონტექსტში ჩავსვათ.

NOTE Paragraph

00:07:36.027 --> 00:07:39.073
მაშ, ამ კადრების მენეჯერების
კონფერენციაზე,

00:07:39.097 --> 00:07:43.806
მე მივედი ერთი ძალიან დიდი კომპანიის
მაღალი დონის მენეჯერთან

00:07:43.830 --> 00:07:48.408
და ვუთხარი: "იქნებ თქვენ არ იცით

00:07:48.432 --> 00:07:54.981
და სისტემა ისეთ ხალხს აგირჩევთ, რომელთაც
დეპრესიის დიდი ალბათობა აქვთ მომავალში.

00:07:55.761 --> 00:07:59.387
ისინი ამჟამად არ არიან დეპრესიაში,
მომავალში კი ალბათობა დიდია.

00:07:59.923 --> 00:08:03.329
ან იქნებ ისეთ ქალს აარჩევს,
რომელიც დიდი შანსია

00:08:03.353 --> 00:08:06.619
შემდეგი ერთი ორი წლის
განმავლობაში დაფეხმძიმდეს?

00:08:06.844 --> 00:08:12.480
ან იქნებ აგრესიული ხალხი აგირჩიოთ,
რადგან ასეთია თქვენი სამუშაო გარემო?"

00:08:12.713 --> 00:08:15.458
თქვენ ამას სქესების მიხედვით
ჩაშლით ვერ მიხვდებით.

00:08:15.458 --> 00:08:17.390
ისინი შეიძლება დაბალანსებული იყოს.

00:08:17.414 --> 00:08:20.971
რადგან ეს მანქანური სწავლებაა
და არა ტრადიციული კოდირება,

00:08:20.995 --> 00:08:25.902
არ არსებობს ცვლადი სახელად:
"დეპრესიის მომატებული რისკი"

00:08:25.926 --> 00:08:27.759
ან "დაფეხმძმების მომატებული რისკი"

00:08:27.783 --> 00:08:29.807
ან "აგრესიული მამაკაცის შკალა"

00:08:29.995 --> 00:08:33.674
არა მხოლოდ ის არ იცით,
როს მიხედვით არჩევს სისტემა,

00:08:33.698 --> 00:08:36.461
არამედ ისიც კი არ იცით,
საიდან დაიწყოთ ამის გარკვევა.

00:08:36.461 --> 00:08:37.381
შავი ყუთია.

00:08:37.381 --> 00:08:40.292
მას პროგნოზირების უნარი აქვს,
მაგრამ თქვენ ის არ გესმით.

NOTE Paragraph

00:08:40.486 --> 00:08:42.855
"რა უსაფრთხოების საშუალებები გაქვთ"
ვკითხე მე,

00:08:42.879 --> 00:08:47.272
"იმისთვის რომ დარწმუნდეთ, რომ თქვენი
შავი ყუთი რამე საეჭვოს არ აკეთებს?"

00:08:48.863 --> 00:08:52.741
მან ისე შემომხედა, თითქოს
10 ლეკვს ერთად დავაბიჯე კუდზე.

NOTE Paragraph

00:08:52.765 --> 00:08:54.013
(სიცილი)

NOTE Paragraph

00:08:54.037 --> 00:08:56.078
შემომხედა და მითხრა:

00:08:56.556 --> 00:09:00.889
"ამაზე მეტის მოსმენას აღარ ვაპირებ"

00:09:01.458 --> 00:09:03.492
გატრიალდა და წავიდა.

00:09:04.064 --> 00:09:05.550
გაითვალისწინეთ, ის არ უხეშობდა.

00:09:05.574 --> 00:09:11.882
მისი პოზიცია იყო: რაც არ ვიცი,
ჩემი პრობლემა არაა, მომშორდი, ცივი მზერით.

NOTE Paragraph

00:09:11.906 --> 00:09:13.592
(სიცილი)

NOTE Paragraph

00:09:13.862 --> 00:09:17.701
ესეთი სისტემა მართლაც შეიძლება იყოს
ნაკლებად ტენდენციური,

00:09:17.725 --> 00:09:19.828
ვიდრე ადამიანი მენეჯერები გარკვეულწილად.

00:09:19.852 --> 00:09:21.998
და შეიძლება ეს ფინანსურადაც აზრიანი იყოს,

00:09:22.573 --> 00:09:24.223
მაგრამ ამან ასევე შეიძლება

00:09:24.247 --> 00:09:28.995
სამუშაო ბაზრიდან დეპრესიის
მომატებული რისკის მქონე ხალხის

00:09:29.019 --> 00:09:31.312
მუდმივ და ფარულ განდევნას შეუწყოს ხელი.

00:09:31.753 --> 00:09:34.349
გვინდა კი, ასეთი საზოგადოების შენება,

00:09:34.373 --> 00:09:36.658
როცა არც კი ვიცით, რომ ამას ვაკეთებთ,

00:09:36.682 --> 00:09:39.685
რადგან გადაწყვეტულების მიღება,
ისეთ მანქანებს მივანდეთ,

00:09:39.685 --> 00:09:41.265
რომლებიც არც კი გვესმის.

NOTE Paragraph

00:09:41.265 --> 00:09:42.723
კიდევ ერთი პრობლემა ისაა,

00:09:42.814 --> 00:09:47.320
რომ ეს სისტემები ხშირად იწვრთნებიან
მონაცემებზე, რომლებსაც ჩვენ ვქმნით.

00:09:47.790 --> 00:09:49.606
ადამიანის კვალზე.

00:09:50.188 --> 00:09:53.996
ისინი შეიძლება
ჩვენს ტენდენციურობებს ასახავდეს

00:09:54.020 --> 00:09:57.613
და ეს სისტემებიც ჩეიძლება
ჩვენს ტენდენციებს იზიარებდნენ,

00:09:57.637 --> 00:09:58.950
აძლიერებდნენ მათ

00:09:58.974 --> 00:10:00.392
და უკან გვიბრუნებდნენ.

00:10:00.416 --> 00:10:02.412
ჩვენ კი ამ დროს თავს ვიტყუებთ:

00:10:02.412 --> 00:10:05.989
"ჩვენ მხოლოდ ობიექტურ
და ნეიტრალურ გამოთვლებს ვაწარმოებთ"

NOTE Paragraph

00:10:06.314 --> 00:10:09.551
მკვლევარებმა დაადგინეს, რომ გუგლში

00:10:10.134 --> 00:10:14.013
ქალებმა უფრო პატარა შანსია
მაღალანაზღაურებადი სამუშაოს რეკლამა ნახონ,

00:10:14.013 --> 00:10:16.133
ვიდრე კაცებმა.

00:10:16.133 --> 00:10:18.993
და აფრო-ამერიკული სახელების ძიებისას,

00:10:19.017 --> 00:10:23.723
უფრო დიდი შანსია კრიმინალური ხასიათის
ამბავი ამოგიხტეთ

00:10:23.747 --> 00:10:25.834
მაშინაც კი როცა ის არ არსებობს.

00:10:26.693 --> 00:10:30.242
ასეთმა ფარულმა ტენდენციურობებმა
და შავი ყუთის ალგორითმებმა,

00:10:30.266 --> 00:10:34.239
რომლებსაც მკვლევარები ზოგჯერ აღმოაჩენენ,
ზოგჯერ კი არც ვიცით,

00:10:34.263 --> 00:10:37.464
შეიძლება დრამატულ შედეგებამდე
მიგვიყვანოს.

NOTE Paragraph

00:10:37.958 --> 00:10:42.117
უისკონსინში ბრალდებულს 6 წელი მიუსაჯეს

00:10:42.141 --> 00:10:44.126
პოლიციისგან გაქცევის გამო.

00:10:44.824 --> 00:10:46.010
თქვენ შეიძლება არ იცით,

00:10:46.034 --> 00:10:50.032
მაგრამ განაჩენის გამოტანისას,
ალგორითმები მზარდად გამოიყენება.

00:10:50.056 --> 00:10:53.261
მას უნდოდა გაეგო:
როგორ გამოითვალეს?

00:10:53.795 --> 00:10:55.460
ეს კომერციული შავი ყუთია.

00:10:55.484 --> 00:11:00.079
კომპანიამ უარი განაცადა
მათი ალგორითმი ღია სასამართლოზე განეხილათ,

00:11:00.396 --> 00:11:05.928
მაგრამ არასამთავრობო "ProPublica"-მ
ეს ალგორითმი შეამოწმა,

00:11:05.952 --> 00:11:07.968
იმ გასაჯაროებული მონაცემებით რაც იპოვეს

00:11:07.992 --> 00:11:10.308
და აღმჩნდა, რომ შედეგები ტენდენციური იყო

00:11:10.332 --> 00:11:13.961
და პროგნოზირების უნარი საშინელი.
შემთხვევითობაზე ოდნავ უკეთესი.

00:11:13.985 --> 00:11:18.401
ის შავკანიან ბრალდებულებს,
მომავალ კრიმინალებად

00:11:18.425 --> 00:11:22.320
ორჯერ უფრო ხშირად აფასებდა
ვიდრე თეთრკანიანებს.

NOTE Paragraph

00:11:23.891 --> 00:11:25.455
განვიხილოთ ასეთი შემთხვევა:

00:11:26.103 --> 00:11:29.589
ამ ქალს ბროუარდის ოლქში, ფლორიდაში


00:11:29.589 --> 00:11:32.744
სკოლიდან საკუთარი სულიერი დის
წამოსაყვანად აგვიანდებოდა,

00:11:32.757 --> 00:11:35.113
როცა ქუჩაში მირბოდა
მის მეგობართან ერთად,

00:11:35.137 --> 00:11:39.236
მათ საბავშვო ველოსიპედი
და სკუტერი შენიშნეს


00:11:39.260 --> 00:11:40.892
და სისულელით შეხტნენ მათზე.

00:11:40.916 --> 00:11:43.515
იმ ადგილს რომ შორდებოდნენ,
ქალი გამოვიდა და თქვა:

00:11:43.539 --> 00:11:45.744
"ეი! ეს ჩემი ბავშვის ველოსიპედია!"

00:11:45.768 --> 00:11:49.482
მათ დატოვეს ველოსიპედი და სკუტერი
და წავიდნენ, მაგრამ ისინი მაინც დააკავეს.

NOTE Paragraph

00:11:49.482 --> 00:11:52.723
ის შეცდა, სულელურად მოიქცა,
მაგრამ ის მხოლოდ 18 იყო.

00:11:52.747 --> 00:11:55.761
მას რამდენიმე ახალგაზრდული
წვრილმანი დანაშაული ჰქონდა.

00:11:55.808 --> 00:12:00.993
ამ დროს, ეს კაცი მაღაზია "Home Depot "-ს
გაქურდვისთვის დააკავეს

00:12:01.017 --> 00:12:04.721
85 დოლარის ღირებულების საქონელი მოიპარა.
საკმაოდ მსგავსი დანაშაული,

00:12:04.766 --> 00:12:09.755
მაგრამ ის ადრე 2 შეიარაღებული
ყაჩაღობისთვისაც იყო გასამართლებული.

00:12:09.955 --> 00:12:14.457
თუმცა, ალგორითმა უფრო მაღალი რისკის
მქონედ ქალი შეაფასა და არა ის.

00:12:14.576 --> 00:12:18.620
2 წლის შემდეგ "ProPublica"-მ აღმოაჩინა რომ
მას განმეორებითი დანაშაული არ ჩაუდენია.

00:12:18.644 --> 00:12:21.194
სამუშაოს შოვნა კი გაუძნელდა,
ასეთი წარსულის გამო.

00:12:21.218 --> 00:12:23.294
თავის მხრივ, იმ კაცმა დანაშაული გაიმეორა

00:12:23.318 --> 00:12:27.154
და ამჟამად 8 წლიან სასჯელს იხდის
ბოლო დანაშაულისთვის.

00:12:28.088 --> 00:12:31.457
ცხადია, ჩვენი შავი ყუთები უნდა შევამოწმოთ

00:12:31.481 --> 00:12:34.096
და არ უნდა მივცეთ მათ,
ასეთი უკონტროლო ძალაუფლება.

NOTE Paragraph

00:12:34.120 --> 00:12:36.999
(აპლოდისმენტები)

NOTE Paragraph

00:12:38.087 --> 00:12:42.329
შემოწმება და კონტროლი მნიშვნელოვანია,
მაგრამ ეს ყველა პრობლემას არ აგვარებს.

00:12:42.353 --> 00:12:45.101
ავიღოთ ფეისბუკის სიახლეების
მძლავრი ალგორითმი.

00:12:45.125 --> 00:12:49.968
აი ის, ყველაფერს რომ ახარისხებს
და წყვეტს რა უნდა გაჩვენოთ,

00:12:49.992 --> 00:12:52.876
ყველა მეგობრიდან და გვერდიდან,
რომელის გამომწერიც ხართ.

00:12:52.898 --> 00:12:55.473
უნდა გაჩვენოთ თუ არა,
კიდევ ერთი ბავშვის სურათი?

NOTE Paragraph

00:12:55.473 --> 00:12:56.393
(სიცილი)

NOTE Paragraph

00:12:56.417 --> 00:12:59.193
ნაცნობის სევდიანი წერილი?

00:12:59.449 --> 00:13:01.305
მნიშვნელოვანი, მაგრამ მძიმე სიახლე?

00:13:01.329 --> 00:13:02.811
არ არსებობს სწორი პასუხი.

00:13:02.835 --> 00:13:05.494
ფეისბუკი თქვენი ქმედებების
ოპტიმიზაციას აკეთებს

00:13:05.518 --> 00:13:08.093
მოწონებები, გაზიარებები, კომენტარები.

NOTE Paragraph

00:13:08.168 --> 00:13:10.864
2014 წლის აგვისტოში

00:13:10.888 --> 00:13:13.550
ფერგიუსონში, მისური,
თეთრკანიანი პოლიციელის მიერ

00:13:13.574 --> 00:13:17.425
ბუნდოვან ვითარებაში
აფრო-ამერიკელი თინეიჯერის მკვლელობას,

00:13:17.425 --> 00:13:19.745
პროტესტის ტალღა მოჰყვა.

00:13:19.974 --> 00:13:21.981
პროტესტის ამბები

00:13:22.005 --> 00:13:24.690
ჩემ ალგორითმულად დაუფილტრავ
ტვიტერზე ყველგან იყო,

00:13:24.714 --> 00:13:26.664
მაგრამ ფეისბუკზე არსად ჩანდა.

00:13:26.702 --> 00:13:29.276
შეიძლება ჩემი
ფეისბუკ მეგობრების გამო იყო ასე?

00:13:29.276 --> 00:13:31.322
გავთიშე ფეისბუკის ალგორითმი,

00:13:31.472 --> 00:13:34.320
რაც რთულია, რადგან ფეისბუკი
მუდმივად ცდილობს

00:13:34.344 --> 00:13:36.380
ალგორითმის კონტროლის ქვეშ მოგაქციოთ.

00:13:36.404 --> 00:13:38.972
გათიშვის შემდეგ,
ვნახე რომ მეგობრები საუბრობენ ამაზე.

00:13:38.972 --> 00:13:41.175
უბრალოდ ალგორითმი არ მაჩვენებდა ამას.

00:13:41.199 --> 00:13:44.241
გამოვიკვლიე და აღმოვაჩინე,
რომ ეს გავრცელებული პრობლემაა.

NOTE Paragraph

00:13:44.265 --> 00:13:48.078
ფერგიუსონის თემა,
ალგორითმისთვის არ იყო პრიორიტეტული.

00:13:48.102 --> 00:13:49.273
არ იყო "მოწონებადი"

00:13:49.297 --> 00:13:51.309
ვინ დააჭერდა "მოწონებას"?

00:13:51.500 --> 00:13:53.706
მასზე კომენტარიც კი რთულია.

00:13:53.730 --> 00:13:55.701
მოწონებებისა და კომენტარების გარეშე,

00:13:55.701 --> 00:13:58.417
ალგორითმი უფრო ცოტა ადამიანს აჩვენებს მას,

00:13:58.441 --> 00:14:00.563
ამიტომაც ვერ ვნახულობდით მას.

00:14:00.946 --> 00:14:02.174
სამაგიეროდ, იმ კვირას,

00:14:02.198 --> 00:14:04.496
ფეისბუკის ალგორითმმა ეს გამოკვეთა:

00:14:04.520 --> 00:14:06.746
"ყინულიანი სათლის გამოწვევის" კამპანია.

00:14:06.770 --> 00:14:10.512
ღირებული რამაა; ვისხამთ ყინულიან წყალს
და ვრიცხავთ შემოწირულობას. მშვენიერია.

00:14:10.536 --> 00:14:13.190
ის ალგორითმისთვის ძალიან პრიორიტეტული იყო.

00:14:13.219 --> 00:14:15.832
მანქანამ ეს გადაწყვეტილება
ჩვენ მაგივრად მიიღო.

00:14:15.856 --> 00:14:19.353
რთული, მაგრამ ძალიან
მნიშვნელოვანი დისკუსია,

00:14:19.377 --> 00:14:20.932
შეიძლება არ შემდგარიყო,

00:14:20.956 --> 00:14:23.652
ფეისბუკი ერთადერთი საშუალება რომ ყოფილიყო.

NOTE Paragraph

00:14:24.117 --> 00:14:27.348
და ბოლოს, ეს სისტემები შეიძლება

00:14:27.348 --> 00:14:30.674
ადამიანებისთვის
არადამახასიათებლად ცდებოდნენ.

00:14:30.698 --> 00:14:33.620
გახსოვთ უოტსონი,
IBM-ის მანქანური ინტელექტის სისტემა,

00:14:33.644 --> 00:14:36.772
რომელმაც ვიქტორინა "Jeopardy"-ში
მონაწილე ადამიანი გაანადგურა?

00:14:37.131 --> 00:14:38.559
ის დიდებული მოთამაშე იყო.

00:14:38.583 --> 00:14:41.909
თუმცა, ფინალში უოტსონს ჰკითხეს:

00:14:41.909 --> 00:14:44.915
"მისი უდიდესი აეროპორტი
მეორე მსოფლიო ომის გმირის სახელობისაა,

00:14:44.915 --> 00:14:48.167
მისი სიდიდით მეორე აეროპორტი
მეორე მსოფლიო ომის ბრძოლის სახელობის."

NOTE Paragraph

00:14:48.167 --> 00:14:49.599
(Jeopardy-ს საფინალო მუსიკა)

NOTE Paragraph

00:14:49.599 --> 00:14:50.894
ჩიკაგო.

00:14:50.894 --> 00:14:52.708
ორმა ადამიანმა სწორად უპასუხა.

00:14:52.708 --> 00:14:57.045
უოტსონმა უპასუხა: "ტორონტო"...

00:14:57.069 --> 00:14:59.407
აშშ-ს ქალაქების კატეგორიაში.

00:14:59.596 --> 00:15:02.497
შთამბეჭდავმა სისტემამ
ისეთი შეცდომა დაუშვა,

00:15:02.521 --> 00:15:06.502
რომელსაც ადამიანი არასდროს დაუშვებდა.
მეორე კლასელი არ დაუშვებდა.

NOTE Paragraph

00:15:06.823 --> 00:15:09.932
მანქანურმა ინტელექტმა
შეიძლება ისეთი შეცდომები დაუშვას,

00:15:09.956 --> 00:15:13.056
რომლებიც ადამიანური შეცდომების
ხასიათში არ ჯდება.

00:15:13.080 --> 00:15:16.030
და რომლებსაც შეიძლება არ ველოდოთ
და მოუმზადებლები აღმოვჩნდეთ.

00:15:16.054 --> 00:15:19.692
სამწუხაროა, როცა სამუშაოზე
შესაბამისი კადრი ვერ აღმოჩნდება,

00:15:19.716 --> 00:15:23.443
მაგრამ ბევრად უარესია,
თუ ეს რომელიღაც ქვეპროგრამაში,

00:15:23.467 --> 00:15:25.279
სტეკის გადავსების გამო მოხდა.

NOTE Paragraph

00:15:25.279 --> 00:15:26.502
(სიცილი)

NOTE Paragraph

00:15:26.526 --> 00:15:29.312
2010 წლის მაისში,

00:15:29.336 --> 00:15:33.380
"უოლ სტრიტის" საფონდო ბირჟის ვარდნამ,
რომელიც "უოლ სტრიტის"

00:15:33.404 --> 00:15:36.712
"გაყიდვის" ალგორითმის,
უკუკავშირის ციკლით იყო გამოწევეული,

00:15:36.712 --> 00:15:40.980
ტრილიონი დოლარის ღირებულების
დაკარგვა გამოიწვია 36 წუთში.

00:15:41.352 --> 00:15:44.299
წარმოსადგენადაც კი რთულია
რას შეიძლება ნიშნავდეს "შეცდომა"

00:15:44.299 --> 00:15:48.172
ავტომატური ლეტალური იარაღის შემთხვევაში.

NOTE Paragraph

00:15:49.894 --> 00:15:53.684
ასე რომ, დიახ ადამიანები
ყოველთვის ტენდენციურები არიან.

00:15:53.708 --> 00:15:55.884
გადაწყვეტილების მიმღებები და დარაჯები,

00:15:55.908 --> 00:15:59.401
სასამართლოებში, ახალ ამბებში, ომში...

00:15:59.425 --> 00:16:02.463
ისინი შეცდომებს უშვებენ,
მაგრამ სწორედ ამაშია საქმე.

00:16:02.487 --> 00:16:06.008
ჩვენ გვერდს ვერ ავუვლით ამ რთულ კითხვებს.

00:16:06.596 --> 00:16:10.112
ჩვენ ვერ გადავაბარებთ
ჩვენს ვალდებულებებს მანქანებს.

NOTE Paragraph

00:16:10.676 --> 00:16:14.884
(აპლოდისმენტები)

NOTE Paragraph

00:16:17.089 --> 00:16:21.536
ხელოვნური ინტელექტი ვერ მოგცვემს ეთიკური
პრობლემების თავიდან აცილების საშუალებას.

NOTE Paragraph

00:16:22.432 --> 00:16:26.123
მონაცემების სპეციალისტი ფრედ ბენენსონი
ამას მათემატიკურ-წმენდას ეძახის.

00:16:26.147 --> 00:16:28.046
ჩვენ ამის საპირისპირო გვჭირდება.

00:16:28.046 --> 00:16:32.948
ჩვენ ალგორითმის მიმართ ეჭვის, შესწავლის
და კვლევის წახალისება გვჭირდება.

00:16:33.380 --> 00:16:36.578
უნდა დავრწმუნდეთ
ჩვენ ალგორითმულ ანგარიშვალდებულებაში,

00:16:36.602 --> 00:16:39.267
შემოწმებასა და გამჭვირვალობაში.

00:16:39.380 --> 00:16:42.614
ჩვენ უნდა გვესმოდეს,
რომ მათემატიკის და გამოთვლის შემოტანას,

00:16:42.638 --> 00:16:45.608
უწესრიგო, ღირებულებებით სავსე 
ადამიანურ ურთიერთობებში

00:16:45.632 --> 00:16:48.016
არ მოაქვს ობიექტურობა,

00:16:48.040 --> 00:16:51.913
არამედ ადამიანური ურთიერთობების სირთულე
იჭრება ალგორითმებში.

00:16:52.148 --> 00:16:55.635
დიახ, ჩვენ შეგვიძლია
და უნდა გამოვიყენოთ გამოთვლა,

00:16:55.659 --> 00:16:57.673
უკეთესი გადაწყვეტულებების მისაღებად,

00:16:57.697 --> 00:17:03.029
მაგრამ ასევე მორალური პასუხისმგებლობა
უნდა ავიღოთ გადაწყვეტილებებზე

00:17:03.053 --> 00:17:05.871
და ამ სქემაში გამოვიყენოთ ალგორითმები

00:17:05.895 --> 00:17:10.830
და არა ერთმანეთზე,
როგორც ადამიანიდან ადამიანზე

00:17:10.854 --> 00:17:13.658
პასუხისმგებლობების გადაბარების საშუალებად.

NOTE Paragraph

00:17:13.807 --> 00:17:16.416
მანქანური ინტელექტი აწმყოა.

00:17:16.440 --> 00:17:18.385
ეს ნიშნავს, რომ ჩვენ

00:17:18.385 --> 00:17:22.032
კიდევ უფრო მეტად უნდა ჩავეჭიდოთ
ადამიანურ ფასეულობებსა და ადამიანურ ეთიკას

NOTE Paragraph

00:17:22.056 --> 00:17:23.210
მადლობა.

NOTE Paragraph

00:17:23.234 --> 00:17:28.254
(აპლოდისმენტები)