Вчора багато хто говорив про те, що Маск підписав лист https://futureoflife.org/open-letter/pause-giant-ai-experiments/ із закликом зупинити розробку всіх ШІ-систем, більш просунутих, ніж GPT-4.
Можна послатися на ексцентричність Маска, але в списку підписантів багато важливих для ІТ-індустрії людей: Стів Возняк, Юваль Ной Харарі, чимало співробітників ШІ-стартапів та ще більше професорів – у тому числі й тих, хто стояв біля витоків сучасних нейронних мереж, на кшталт Йошуа Бенжіо.
Виникає два питання:
Перше: чому розумні люди стають неолудитами та намагаються зупинити прогрес?
Друге: чи справді розвиток ШІ можна призупинити?
Почнемо з першого. У листі цитується кілька причин. Що, коли машини заповнять наш світ пропагандою? А якщо роботи займуть усі робочі місця? І, нарешті, чи ми впевнені, що не втратимо контроль за нашою цивілізацією?
Остання теза може здатися радикальною, але саме вона – причина, через яку багато хто залишив свій підпис під документом (хоча і не всі – є ті, хто більше стурбований короткостроковими ефектами https://www.barrons.com/articles/ai-pause-open-letter-musk-86ec2651 ).
Є багато аргументів за те, чому ШІ може знищити людство, але сфокусуємось на одному, найвідомішому та найелегантнішому. Він складається з двох частин:
1) Припустимо, нам вдасться створити ШІ, рівний за здібностями до людського мозку. На відміну від людини, він не потребуватиме відпочинку, не забуватиме те, що одного разу вивчив, і зможе отримати доступ до колосальних обчислювальних ресурсів – а головне, зможе покращувати себе. Він вмітиме писати код, а значить, зможе створити ШІ+ - інтелект, який хоча б трохи перевершуватиме людський, який, у свою чергу, створить ще більш продуктивну модель. Виходить, створення «людського» ШІ неминуче призведе до появи «надлюдського» (кращий аналіз цього аргументу – у статті Чалмерса
https://consc.net/papers/singularityjcs.pdf ).
2) Якщо з'явиться надлюдський інтелект, то немає жодних гарантій, що його цілі будуть відповідати людським – це та сама AI Alignment Problem. У спрощеному вигляді – знаменитий «аргумент про скріпки». Припустимо, людство створило надлюдський розум, у мозок якого ми заклали головну мету – виробляти скріпки. Згодом цей ШІ зрозуміє, що для максимізації числа скріпок бажано перетворити на заводи з їх виробництва всю поверхню Землі, а в ідеалі на скріпки має перетворитися вся матерія у Всесвіті – включаючи, звичайно, і досить непотрібних для цього людей. Яку б мету ми не заклали у штучний розум, ми не розуміємо, як вона буде інтерпретована (за деталями – до статті Бострома nickbostrom.com/superintelligentwill.pdf).
Якщо ви вперше читаєте ці аргументи, то вони можуть здатися вам фантасмагоричним маренням, місце якому - у голлівудських бойовиках. Їх поділяють навіть не всі підписанти
https://www.vice.com/en/article/qjvppm/the-open-letter-to-stop-dangerous-ai-race-is-a-huge-mess
Але якщо вже про це всерйоз сперечаються тисячі освічених людей, то нам точно варто хоча б задуматися.
Тепер до другого питання – чи вдасться зупинити розвиток ШІ? Скоріш за все ні. По-перше, підтримують лист далеко не всі – серед підписантів не видно співробітників OpenAI, та й багато дослідників називають його «маячнею».
https://www.vice.com/en/article/qjvppm/the-open-letter-to-stop-dangerous-ai-race-is-a-huge-mess
До того ж на кону великі гроші: ChatGPT став найшвидше розповсюджуваним додатком за всю історію, набравши 100 млн користувачів за два місяці - майже в п'ять разів швидше, ніж TikTok. Будь-яка компанія, яка добровільно відмовиться від розвитку ШІ, втратить мільярди доларів - саме тому Google поспіхом презентував свій аналог ChatGPT, який називали навіть "ганьбою" https://www.reuters.com/technology/google-ai-chatbot-bard-offers-inaccurate-information-company-ad-2023-02-08/
По-друге, навряд чи зможуть зупинити розробки ШІ і держави. Розвиток ШІ - давно вже став новою гонкоб озброєнь між Китаєм та США. Якщо кожна зі сторін вирішить одноосібно зупинити свої дослідження, то прирече себе на поразку в неоголошеній війні (краще вже всесильний ШІ розробимо ми, ніж ці тоталітарні божевільні – цілком існуючий нині аргумент
https://twitter.com/DavidDeutschOxf/status/1641049696759083008?cxt=HHwWgMCzoaWAl8YtAAAA ). Ну а повірити в координацію між Китаєм та США в цій сфері майже неможливо – тому американці вкладають рекордні 50 млрд у розвиток напівпровідників, без яких ШІ не побудуєш
https://www.whitehouse.gov/briefing-room/statements-releases/2022/08/09/fact-sheet-chips-and-science-act-will-lower-costs-create-jobs-strengthen-supply-chains-and-counter-china/, а китайці запускають одну ШІ-стратегію за іншою
https://www.scmp.com/economy/china-economy/article/3215138/china-launches-new-ai-programme-race-against-us-supremacy-heats
Тому великого ефекту від цього листа чекати не варто.
30.03.2023
Немає коментарів:
Дописати коментар