АНАЛІЗ РИЗИКІВ ГЕНЕРАТИВНОГО ШТУЧНОГО ІНТЕЛЕКТУ В ОСВІТІ ТА ДОСЛІДЖЕННЯХ З РЕКОМЕНДАЦІЯМИ ЩОДО ВІДПОВІДАЛЬНОГО ВИКОРИСТАННЯ ТА ЗАЗНАЧЕННЯ РОЛІ

Автор(и)

  • О. Ю. Краковецький Технічний університет «Метінвест політехніка» https://orcid.org/0009-0006-9023-0732
  • Н. Ю. Шевченко Технічний університет «Метінвест політехніка»

DOI:

https://doi.org/10.32782/tnv-tech.2024.5.5

Ключові слова:

генеративний штучний інтелект, ГШІ, вища освіта, персоналізоване навчання, академічна доброчесність, ризики ІІ, алгоритмічні упередження, галюцинації, освітня політика, управління ІІ

Анотація

Об’єктом дослідження є аналіз переваг і ризиків, пов’язаних із впровадженням генеративного штучного інтелекту (ГШІ) в освіті та дослідженнях, а також розробка політик його етичного та відповідального використання. Мета дослідження – розробити рекомендації щодо визначення ролі ГШІ в освіті та дослідженнях на основі аналізу відповідних ризиків. У статті розглядаються наступні завдання: аналіз переваг ГШІ у сприянні персоналізованому та адаптивному навчанню, автоматизації створення контенту та прискоренні синтезу даних для досліджень; визначення та категоризація ризиків, пов’язаних із використанням ГШІ у вищій освіті, та запропонувати стратегії для їх мінімізації; розробити рекомендації для забезпечення прозорості та підзвітності у використанні контенту, створеного ГШІ, у навчальних і дослідницьких процесах. Методи дослідження включають: системний огляд сучасної літератури щодо застосування ГШІ в освіті та дослідженнях, порівняльний аналіз практик використання ГШІ в вищих навчальних закладах, категоризація ризиків з урахуванням потенційних етичних і практичних наслідків використання ГШІ. За результатами дослідження виявлено ключові переваги ГШІ, такі як покращення персоналізованого навчального досвіду, автоматизація створення навчальних матеріалів та прискорення досліджень завдяки синтезу даних. Водночас визначено критичні ризики, серед яких надмірна залежність від ГШІ, відтворення упереджень, феномен «галюцинацій» ГШІ та загроза академічній доброчесності. На основі отриманих результатів запропоновано низку рекомендацій для розробки комплексних політик, що регулюють етичне використання ГШІ у вищій освіті. Рекомендації спрямовані на розробку індивідуальних стратегій управління ГШІ для вишів які відповідають їхнім освітнім і дослідницьким потребам. Політики мають забезпечити етичне використання ГШІ, прозорість і мінімізацію потенційних ризиків, одночасно максимізуючи переваги технологій ГШІ. Окрім того, у дослідженні наголошується на важливості постійної оцінки та адаптації цих політик по мірі розвитку технологій ГШІ.

Посилання

Pinchuk O.. Malytska I. «Responsible and ethical use of artificial intelligence in research and publishing», ITLT, vol. 100. no. 2. pp. 180–198. Apr. 2024. URL: https://journal.iitta.gov.ua/index.php/itlt/article/view/5676 (дата звернення: 15.11.2024).

Anthony Hié, Claire Thouary. How GAI Is Reshaping Higher Education. 2023. URL: https://www.aacsb.edu/insights/articles/2023/10/how-ai-is-reshaping-highereducation (дата звернення: 15.11.2024).

Learning about artificial intelligence: A hub of MIT resources for K-12 students. 2020. URL: https://news.mit.edu/2020/learning-about-artificial-intelligence-hub-ofmit-resources-k-12-students-0407 (дата звернення: 15.11.2024).

Guidance for the Use of GAI. 2023. URL: https://teaching.ucla.edu/resources/ai_guidance/ (дата звернення: 15.11.2024).

Sarah Steimer. Human-aware A.I. helps accelerate scientific discoveries. URL: https://news.uchicago.edu/story/human-aware-ai-helps-accelerate-scientificdiscoveries-new-research-shows (дата звернення: 15.11.2024).

Wayne Holmes, Maya Bialik, Charles Fadel. Artificial Intelligence in Education: Promises and Implications for Teaching and Learning. 2019. URL: https://www.researchgate.net/publication/332180327_Artificial_Intelligence_in_Education_Promise_and_Implications_for_Teaching_and_Learning (дата звернення: 15.11.2024).

Carlo Cadenas. GAI in Science: How Artificial Intelligence is Transforming Scientific Research. 2023. URL: https://www.nature.com/immersive/d41586-023-03017-2/index.html (дата звернення: 15.11.2024).

Краковецький О.Ю., Шевченко Н.Ю. Аналіз політики щодо використання технологій генеративного штучного інтелекту в освітньому процесі. Комплексне забезпечення якості технологічних процесів та систем : зб. тез доп. XІV міжнар. наук.-практ. конф., м. Чернігів, 23–24 травн. 2024 р. Чернігів, 2024. С. 348-349.

Zawacki-Richter Olaf, Victoria I. Marín, Melissa Bond & Franziska Gouverneur. Systematic review of research on artificial intelligence applications in higher education – where are the educators? 2019. URL: https://educationaltechnologyjournal.springeropen.com/articles/10.1186/s41239-019-0171-0 (дата звернення: 15.11.2024).

H. Lee Swanson, Amber Moran, Cathy Lussier, Wenson W. Fung. The Effect of Explicit and Direct Generative Strategy Training and Working Memory on Word Problem-Solving Accuracy in Children at Risk for Math Difficulties. Learning Disability Quarterly. 37(2):111-123. 2014. DOI: 10.1177/0731948713507264.

Mohammad Behdad and etc. Artificial Intelligence and COVID-19: Deep Learning Approaches for Diagnosis and Treatment. 2020. URL: https://pmc.ncbi.nlm.nih.gov/articles/PMC8043506/ (дата звернення: 15.11.2024).

Anmol Arora, Ananya Arora. Generative adversarial networks and synthetic patient data: current challenges and future perspectives. 2022. URL: https://consensus.app/papers/networks-patient-data-challenges-future-perspectives-arora/c5c1d6d948af5c53ae41fee34e73b51d/?utm_source=chatgpt (дата звернення: 15.11.2024).

Philippe Burlina and etc. Addressing Artificial Intelligence Bias in Retinal Disease Diagnostics. 2021. URL: https://www.researchgate.net/publication/340997186_Addressing_Artificial_Intelligence_Bias_in_Retinal_Disease_Diagnostics (дата звернення: 15.11.2024).

Varun Magesh and etc. Hallucination-Free? Assessing the Reliability of Leading GAI Legal Research Tools. 2024. URL: https://www.researchgate.net/publication/381109273_Hallucination-Free_Assessing_the_Reliability_of_Leading_AI_Legal_Research_Tools (дата звернення: 15.11.2024).

Angela Jones, Anita Olds, Joanne Lisciandro. Understanding the Learner: ffective course design in the changing higher education space. 2023. URL: https://www.researchgate.net/publication/311453970_Understanding_the_Learner_Effective_course_design_in_the_changing_higher_education_space (дата звернення: 15.11.2024).

Syllabi Polices for GAI. 2024. URL: https://aiedusimplified.substack.com/ (дата звернення: 15.11.2024).

Levin Brinkmann et al. Machine Culture. 2023. URL: https://arxiv.org/ftp/arxiv/papers/2311/2311.11388.pdf (дата звернення: 15.11.2024).

##submission.downloads##

Опубліковано

2024-12-30

Як цитувати

Краковецький, О. Ю., & Шевченко, Н. Ю. (2024). АНАЛІЗ РИЗИКІВ ГЕНЕРАТИВНОГО ШТУЧНОГО ІНТЕЛЕКТУ В ОСВІТІ ТА ДОСЛІДЖЕННЯХ З РЕКОМЕНДАЦІЯМИ ЩОДО ВІДПОВІДАЛЬНОГО ВИКОРИСТАННЯ ТА ЗАЗНАЧЕННЯ РОЛІ. Таврійський науковий вісник. Серія: Технічні науки, (5), 50-59. https://doi.org/10.32782/tnv-tech.2024.5.5

Номер

Розділ

КОМП’ЮТЕРНІ НАУКИ ТА ІНФОРМАЦІЙНІ ТЕХНОЛОГІЇ