ԱԲ էթիկա․Այն ամենը, ինչ դու պետք է իմանաս
ԱԲ էթիկան վերաբերում է այն սկզբունքներին, որոնք կարգավորում են արհեստական բանականության վարքագիծը՝ մարդու արժեքների համատեքստում: Այն ապահովում է, որ ԱԲ-ի մշակումը և կիրառումը պատասխանատու լինի և ծառայի հասարակության շահերին։ Այն ներառում է լայն շրջանակ՝ արդարություն, թափանցիկություն, հաշվետվողականություն, գաղտնիություն, անվտանգություն, ինչպես նաև հնարավոր սոցիալական ազդեցությունների գնահատում։
Քանի դեռ ձևավորվում են ԱԲ-ի կիրառումը կարգավորող կանոններն ու գործառույթները, ակադեմիականները որպես ուղեցույց հաճախ օգտագործում են Belmont Report-ը։ Այն առաջարկում է երեք հիմնարար սկզբունք, որոնք ծառայում են էթիկական հիմք՝ ինչպես հետազոտությունների, այնպես էլ ալգորիթմների մշակման համար։
- Անձի նկատմամբ հարգանք (Respect for Persons)
Այս սկզբունքը ընդգծում է յուրաքանչյուր անձի ինքնավարությունը և պահանջում է հատուկ պաշտպանություն այն մարդկանց համար, ովքեր տարբեր պատճառներով կարող են չունենալ լիարժեք ինքնուրույնություն՝ հիվանդություն, մտավոր կարողությունների սահմանափակում, տարիքային սահմանափակումներ և այլն։
Այս սկզբունքի հիմքում համաձայնության գաղափարն է․ յուրաքանչյուր մարդ պետք է տեղեկացված լինի փորձի հնարավոր ռիսկերի և օգուտների մասին, ունենա մասնակցելու կամ ցանկացած պահին հրաժարվելու իրավունք։
- Բարեգործություն / ոչ վնասելու սկզբունք (Beneficence)
Այս մոտեցումը ծագում է առողջապահական էթիկայից, որտեղ բժիշկները պարտավորվում են «չվնասել»։ Նույն սկզբունքը վերաբերում է նաև արհեստական բանականությանը․ ալգորիթմները չպետք է խորացնեն ռասայական, գենդերային, սոցիալական կամ քաղաքական կողմնակալությունները։ ԱԲ-ի ստեղծողներն ու կիրառողները պետք է ապահովեն, որ տեխնոլոգիան նպաստի բարօրությանը և չառաջացնի լրացուցիչ վնաս։
- Արդարություն (Justice)
Այս սկզբունքը վերաբերում է արդարությանն ու հավասարությանը․
ո՞վ է ստանում ԱԲ-ի բարեփոխումներից և փորձարկումներից բխող օգուտները, և ո՞վ է կրում ռիսկերը։
Belmont Report-ը առաջարկում է բեռների և օգուտների բաշխման հինգ մոտեցում․
- Հավասար բաժին,
- Անհատական կարիք,
- Անհատական ջանք,
- Ներդրում հասարակությանը,
- Ամրագրված արժանիք (merit)։
Որո՞նք են ընկերությունների համար AI էթիկայի 5 հիմնական սկզբունքները
Կազմակերպությունները, որոնք կիրառում են ԱԲ-ը էթիկայի սկզբունքներին համապատասխան, առաջնորդվում են հինգ հիմնական սկզբունքով՝ արդարություն, թափանցիկություն, հաշվետվողականություն, գաղտնիություն և անվտանգություն։ Այս սկզբունքները սահմանում են լավագույն մոտեցումները՝ նվազեցնելու համար ԱԲ-ի հետ կապված ռիսկերը։
Սկզբունք 1․ Արդարություն (Justice)
ԱԲ-ում արդարությունը վերաբերում է ալգորիթմի արտածված արդյունքներին։ «Արդար» լինելը նշանակում է, որ այդ արդյունքները համապատասխանում են որոշակի արդարության չափանիշների։ Կախված խնդրից՝ արդարությունը կարող է վերաբերել հավասար բաշխմանը, սխալի հավասար մակարդակներին կամ ճիշտ ներկայացուցչությանը։
Այս չափանիշները հիմնականում կապված են իրավաբանորեն պաշտպանված հատկանիշների հետ՝ ռասա, գենդեր և այլն։ Արդարությունը ապահովում է, որ արդյունքները հավասար լինեն այս խմբերի միջև։
Կազմակերպությունները, որոնք ցանկանում են ապահովել ԱԲ-ի արդար արդյունքները պաշտպանված խմբերի միջև, պետք է ստեղծեն մոդելներ, որոնք ճիշտ կկշռադատեն տարբեր խմբերի համար տարբեր չափանիշներ։
Սակայն բարդությունն այն է, որ տվյալների խմբում գտնվող որոշ մարդիկ կարող են չցանկանալ կիսվել իրենց ռասայի, գենդերի կամ դավանանքի մասին տեղեկություններով, ինչը դժվարացնում է խումբ-խումբ արդար արդյունքների ապահովումը։
Որքան թափանցիկ են տվյալները, այնքան հեշտ է ապահովել արդար արդյունք, սակայն դա կարող է հանգեցնել մարդու գաղտնիության խախտման։
Ավելին, «արդար» ալգորիթմ կառուցելը բարդանում է այն պատճառով, որ արդարության ընկալումը միշտ չէ, որ միանշանակ է։
Կազմակերպությունները, որոնք ցանկանում են ապահովել ԱԲ-ի արդարությունը, պետք է մշակեն հստակ և ամուր արդարության չափանիշներ։
Սկզբունք 2․ Թափանցիկություն (Transparency)
Եթե արդարությունը վերաբերում է ԱԲ-ի արդյունքներին, ապա թափանցիկությունը վերաբերում է այն բանին, թե ինչ է տեղադրված ալգորիթմի մեջ։ Թափանցիկ ԱԲ գործիքների ստեղծումը կարևոր է կողմնակալությունից զերծ, ճշգրիտ արդյունքներ ապահովելու համար։
ԱԲ-ում կողմնակալությունն առաջանալու մի քանի ուղի կա․
- Ծրագրավորողները կարող են ունենալ կողմնակալություն,
- Ալգորիթմը կարող է գերարժևորել որոշ տեսակ տվյալներ,
- ԱԲ-ի ուսուցման տվյալները կարող են լինել կողմնակալ․
Եթե համապատասխան տեղեկատվությունը բացակայել է (նպատակային կամ ոչ), ալգորիթմը կարող է դառնալ կողմնակալ:
Կազմակերպությունները կարող են ապահովել իրենց ԱԲ-ի թափանցիկությունը՝
- ներգրավելով ծրագրավորողների բազմաբնույթ թիմ,
- իրականացնելով խիստ կողմնակալության թեստավորում,
- ներգրավելով ԱԲ կողմնակալության մասնագետ, որը կվերահսկի արդյունքները, կվերլուծի ուսուցման տվյալները և կհամոզվի, որ դրանք գալիս են լայն և անկողմնակալ աղբյուրներից։
Սկզբունք 3։ Պատասխանատվություն
Կարհեստական բանականության (ԿԲ) մեջ պատասխանատվությունը նշանակում է, որ որևէ մեկը պետք է պատասխանատվություն կրի ԿԲ-ի ստեղծած արդյունքների համար։ ԿԲ-ը ինքնին չի կարող ենթարկվել հետևանքների, ուստի կազմակերպությունները պետք է մշակեն հստակ շրջանակ, որը կնշի, թե ով է պատասխանատու համակարգի աշխատանքի համար։ Ինչպես նշվում է IBM-ի 1979 թ. ուսումնական ձեռնարկում. «Համակարգիչը չի կարող կրել պատասխանատվություն։ Հետևաբար համակարգիչը երբեք չպետք է կայացնի կառավարչական որոշումներ»։
«Երբ ինչ–որ բան սխալ է գնում, — ասում է Իմփինքը, — պետք է լինի մեկը, ում կարող ես պատասխան պահանջել»։
Սակայն միշտ չէ, որ պարզ է, թե ով է պատասխանատուն ԿԲ-ի սխալ աշխատանքի դեպքում։ Իմփինքը ներկայացնում է հնարավոր մի օրինակ, որը ցույց է տալիս պատասխանատվության բարդությունը․
«Պատկերացրեք, որ ինքնավար Uber-ը փչացնում է ինչ–որ մեկին։ Պատասխանատու՞ է Toyota-ն՝ որպես մեքենայի արտադրող։ Թե՞ ծրագրավարողը, որը ստեղծել է ալգորիթմը։ Թե՞ ուղևորն է պատասխանատու»։
Կազմակերպությունները կարող են կանխել նման անորոշությունները՝ սահմանելով հստակ պատասխանատվության աստիճանակարգ յուրաքանչյուր ԿԲ տարրի համար։ Հստակ սահմանված կառուցվածքը թույլ կտա հասկանալ, թե ով պետք է պատասխան տա խնդիրների առաջացման դեպքում։
Սկզբունք 4։ Գաղտնիություն
ԱԲ-ում գաղտնիությունը վերաբերում է այն տվյալների պաշտպանությանը, որոնք օգտագործում է համակարգը։ Անձնավորող տվյալները, ինչպես՝ անունը, սոցիալական ապահովության համարը, հասցեն կամ հեռախոսահամարը, պետք է պատշաճ կերպով պաշտպանվեն՝ կանխելու խարդախությունն ու ինքնության հափշտակումը։
ԱԲ-ի դեպքում գաղտնիությունն ու անվտանգությունը սերտորեն կապված են, և կազմակերպությունները պետք է համապատասխանեն տվյալների գաղտնիության օրենքներին։ Կազմակերպությունները կարող են ապահովել գաղտնիության պահպանումը՝ ստեղծելով հուսալի անվտանգության համակարգ, որը կպաշտպանի անձնական տվյալները ԱԲ գործիքի ներսում։
Սկզբունք 5։ Անվտանգություն
Գաղտնիությունը պահպանելու համար կազմակերպությունները պարտավոր են ապահովել օգտատիրոջ տվյալների անվտանգությունը։ ԱԲ-ի կիրառման դեպքում դա նշանակում է պաշտպանել ներքին, փակ տվյալները արտաքին հարձակումներից կամ ներքին վնասումից։
Որակյալ տվյալների անվտանգության քաղաքականությունը պարտադիր է յուրաքանչյուր կազմակերպության համար, որը օգտագործում է ԱԲ։ Դա ներառում է՝
- ուժեղ շիֆրավորման մեխանիզմներ՝ տվյալների պահպանման և փոխանցման համատեքստում,
- խիստ օգտագործողի նույնականացման և հասանելիության կառավարման քաղաքականություններ՝ տվյալների հասանելիությունը սահմանափակելու համար,
- անձնական տվյալների անանունացում՝ ուսուցման նպատակով օգտագործվող տվյալների դեպքում։
ԱԲ էթիկան այլևս պարզապես տեսական քննարկում չէ․ այն հիմք է, որի վրա կառուցվում են բիզնեսների, պետությունների և ողջ հասարակության ապագա տեխնոլոգիական լուծումները։ Արհեստական բանականության արագ զարգացումը մեզ բերեց այն կետին, որտեղ պատասխանատու կիրառումը դարձել է ոչ միայն բարոյական, այլ նաև գործնական անհրաժեշտություն։
Արդարության, թափանցիկության, պատասխանատվության, գաղտնիության և անվտանգության սկզբունքները կազմակերպություններին օգնում են ոչ միայն նվազեցնել ռիսկերը, այլև ստեղծել վստահելի, արդյունավետ և երկարաժամկետ տեխնոլոգիական էկոհամակարգ։
Այդ սկզբունքներին հետևելը հնարավորություն է տալիս կառուցել ԱԲ համակարգեր, որոնք ծառայում են մարդկանց, պաշտպանում նրանց իրավունքները և նպաստում են հավասար հնարավորություններին։ Ապագայում ԱԲ-ը շարունակելու է փոխել արդյունաբերություններն ու համաշխարհային տնտեսությունը, և միայն էթիկայի վրա կառուցված մոտեցումն է, որ կապահովի, որ այս զարգացումը լինի կայուն, անվտանգ և բարի ազդեցությամբ։
Պատասխանատու ԱԲ-ն սկսվում է հենց այսօր՝ մեր որոշումներից, քաղաքականություններից և գիտակցված ընտրություններից։
