Unatoč prednostima i koristima umjetne inteligencije, moramo uzeti u obzir moguću i ponekad neopozivu štetu koju mogu prouzročiti loš dizajn sustava umjetne inteligencije, nepravilna namjerna ili nenamjerna uporaba ili zlouporaba te negativne posljedice upotrebe sustava umjetne inteligencije

Izvor: Umjetna inteligencija u obrazovanju – Edukativni priručnik o primjeni umjetne inteligencije u učenju i poučavanju za učitelje, nastavnike i stručne suradnike u školama

Umjetna inteligencija nudi mnoge potencijalne koristi, ali istovremeno nosi i niz rizika.

Prednosti:

  • Automatizacija rutinskih zadataka: UI može automatizirati rutinske zadatke, što rezultira boljom raspodjelom vremena, posebice za obavljanje složenijih i kreativnijih poslova.
  • Brza obrada podataka: UI može brzo analizirati velike količine podataka i izvući korisne zaključke, što nam može znatno olakšati donošenje bržih i informiranijih odluka.
  • Predviđanja budućih događaja ili situacija: Algoritmi strojnog učenja mogu analizirati trendove i obrasce u prikupljenim podacima i tako preciznije predvidjeti buduće događaje i situacije u učenju.
  • Personalizacija iskustava i učenja: UI omogućuje prilagodbu i personalizaciju sadržaja za učenje prema individualnim potrebama učenika, što poboljšava njihov napredak u učenju i radu i pozitivno utječe na unaprjeđenje procesa učenja za svakog pojedinog učenika.

Edukativni video o umjetnoj inteligenciji

Rizici:

  • Pristranost i diskriminacija u algoritmima umjetne inteligencije: poticanje stereotipa, isključivanje određenih skupina ljudi u podacima za treniranje algoritama i nedostatak pravednosti.
  • Odgovornost i transparentnost: načini na koje umjetna inteligencija izvodi zaključke i donosi odluke nisu jasni niti transparentni, ne zna se tko je odgovoran za odluke umjetne inteligencije i tko ih kontrolira.
  • Pravednost i uključivost: neodgovorna uporaba umjetne inteligencije dovodi do produbljivanja digitalnog jaza i stvara nejednake mogućnosti za sve.
  • Privatnost i sigurnost: prikupljanje i korištenje podataka djece i odraslih bez njihova znanja ili pristanka.
  • Prekomjerno oslanjanje na umjetnu inteligenciju pri donošenju važnih odluka u procesu učenja, npr. pri pisanju eseja, rješavanju zadataka, kritičkom razmišljanju i kreativnom stvaranju ili kao nadomjestak za ljudsku interakciju, npr. percepcija chatbota kao imaginarnog prijatelja.
  • Nedostatak regulacije: nedostatak jasnih smjernica za uporabu umjetne inteligencije, a koje su posebno usmjerene na zaštitu djece i mladih.
  • Gubitak poslova: nesigurnost pri očuvanju radnih mjesta uslijed sve veće primjene umjetne inteligencije u radu.

Unatoč prednostima i koristima umjetne inteligencije, moramo uzeti u obzir moguću i ponekad neopozivu štetu koju mogu prouzročiti loš dizajn sustava umjetne inteligencije, nepravilna namjerna ili nenamjerna uporaba ili zlouporaba te negativne posljedice upotrebe sustava umjetne inteligencije. Ovi izazovi još su relevantniji u obrazovanju te je potrebno posvetiti posebnu pažnju i oprez prilikom dizajniranja, razvoja i implementacije aplikacija temeljenih na umjetnoj inteligenciji kako bi se osigurala sigurnost i inkluzija svih učenika.

Preuzmite priručnik “Umjetna inteligencija u obrazovanju”

Priručnik za učitelje o primjeni umjetne inteligencije u učenju i poučavanju

Foto: Pixabay