BG | EN

Секция „Моделиране и оптимизация“

Институт по информационни и комуникационни технологии – БАН

← Назад към Проекти
Активен ФНИ / МОН

Фонд научни изследвания – Министерство на образованието и науката

Емблема на проект AI-Lifecycle

Методи за генериране на данни, самообучение и оптимизация на модели в жизнен цикъл на ИИ инструменти в социално значими области

Описание

С разрастващото се интегриране на решения базирани на изкуствения интелект (ИИ) във всяка област от живота ни е от съществено значение да се изследват неговите основни процеси от научна гледна точка. По-дълбокото разбиране на механизмите, които са в основата на ИИ, особено големите езикови модели (LLMs), е от решаващо значение за адресирането на техните ограничения, като пристрастия, липса на устойчивост и предизвикателствата на адаптивността в динамични среди. Чрез възприемане на строги научни методи можем не само да подобрим точността и надеждността на моделите на ИИ, но и да гарантираме, че те са в съответствие с етичните стандарти и обществените ценности. Това изследване е особено значение за развитието на ИИ системи, които в близко бъдеще се цели да са не само мощни, но също така надеждни, справедливи и отговорни.

Настоящият етап на ИИ показва забележителни постижения в обработката на естествен език и взаимодействието човек-компютър. Тези модели демонстрираха безпрецедентни способности в разбирането и генерирането на текст, наподобяващ човешки, което доведе до широко приложение в различни области – от автоматизирани системи за отговор на запитвания до сложни изследователски инструменти. Въпреки тези постижения, остават значителни предизвикателства. LLMs могат да наследяват и дори да усилват социални пристрастия, заложени в техните обучителни данни, което води до изкривени, неетични или дори вредни резултати, като расистки изказвания, дезинформация или утвърждаване на стереотипи. Освен това, адаптивността на тези модели в реално време, способността им да функционират ефективно в многоагентни системи и съгласуваността им с човешките предпочитания остават критични области за активно изследване и бъдещи проучвания.

За да преодолеем тези предизвикателства и напълно да използваме потенциала на ИИ, е необходимо да възприемем систематичен и научен подход. Това включва подробно изучаване и усъвършенстване на моделите на ИИ, разработване на стабилни и разнообразни набори от данни и прилагане на усъвършенствани техники за фино настройване (fine-tuning) и оптимизация. Дълбокото разбиране на основните процеси на ИИ на научно ниво може да доведе до създаването на модели, които са по-устойчиви, адаптивни и способни да функционират в сложни, динамични среди. Освен това този подход отваря възможности за създаване на иновативни методи за оценка и намаляване на пристрастията, което гарантира, че ИИ системите са не само справедливи и включващи, но и способни да откриват и противодействат на проблеми като расизъм, дезинформация и други форми на вредно съдържание.

Екип

Работни пакети и график

202520262027
РП1Събиране и куриране на данни
яну. – дек. 2025
РП2Оценка и намаляване на пристрастия
юли 2025 – септ. 2026
РП3Малки езикови модели
яну. 2026 – септ. 2027
РП4Фино настройване и надеждност
окт. 2026 – септ. 2027
РП5Многоагентни рамки
яну. – дек. 2027
РП6Управление и разпространение
яну. 2025 – дек. 2027

Етап 1 – успешно завършен

Проектът успешно завърши първия си етап (18 месеца), обхващащ дейностите по РП1, РП2, РП3 и РП6. При заложени 4 научни публикации за етапа екипът подготви 21 – над пет пъти повече от планираното, от които 15 в издания с импакт ранг (SJR), и представи 20 доклада на 12 международни научни форума. Научният отчет за Етап 1 беше предаден във Фонд „Научни изследвания“ през юли 2026 г.

Сред основните научни резултати са нови методи за генериране на синтетични данни, подходи за оценка и намаляване на пристрастията, методи за атрибуция на ИИ-генериран текст (включително квантови SVM, изпълнени на суперкомпютъра „ХЕМУС“), одити на халюцинациите на големите езикови модели и бенчмаркове за ефективност на малки езикови модели върху периферни (edge) устройства.

Инфографика: Етап 1 завършен – 21 научни публикации, 15 в SJR-класирани издания, 20 доклада на 12 международни форума

Публикации и резултати

В издания с импакт ранг (SJR)

  1. Varbanov, V., Atanasova, T. Improving Industrial Control System Cybersecurity with Time-Series Prediction Models. Engineering Proceedings, 101(1), 4, MDPI, 2025, ISSN:2673-4591, DOI:10.3390/engproc2025101004.
  2. Kopanov, K., Atanasova, T. A Comparative Pattern Analysis of Qwen 2.5 and Gemma 3 Text Generation. WSEAS Transactions on Information Science and Applications, 22, WSEAS Press, 2025, ISSN:2224-3402, DOI:10.37394/23209.2025.22.50, pp. 604–615.
  3. Dineva, K., Atanasova, T., Varbanov, V. Analysis of Data Fragmentation in Artificial Intelligence Models to Improve Decision-Making Processes in Socially Significant Areas. International Multidisciplinary Scientific GeoConference SGEM, 25, 2.1, SGEM, 2025, ISBN:978-619-7603-89-7, ISSN:1314-2704, DOI:10.5593/sgem2025/2.1/s07.03.
  4. Dineva, K., Atanasova, T., Kopanov, K. Data Collection Methodology for Artificial Intelligence Models in Socially Relevant Areas. International Multidisciplinary Scientific GeoConference SGEM, 25, 2.1, SGEM, 2025, ISBN:978-619-7603-89-7, ISSN:1314-2704, DOI:10.5593/sgem2025/2.1/s07.02, pp. 13–18.
  5. Varbanov, V., Atanasova, T. Renewable Energy Infrastructure: Vulnerability Mapping and Predictive Risk Modeling. 25th International Scientific Multidisciplinary Conference SGEM 2025, 25, 4.1, SGEM, 2025, ISBN:978-619-7603-83-5, ISSN:1314-2704, DOI:10.5593/sgem2025/4.1/s16.18, pp. 141–150.
  6. Dineva, K., Atanasova, T. Green Energy and Digitalization: A Theoretical Perspective on the Role of Decentralized Technologies. International Multidisciplinary Scientific GeoConference SGEM 2025, Vienna, 25, 4.2, SGEM, 2025, ISBN:978-619-7603-93-4, ISSN:1314-2704, DOI:10.5593/sgem2025v/4.2/s20.81, pp. 741–748.
  7. Dineva, K., Atanasova, T. A Cloud-Based Architecture for Automated Data Extraction and Integration from Multiple Government Sources. International Multidisciplinary Scientific GeoConference SGEM 2025, Vienna, 25, 4.2, SGEM, 2025, ISBN:978-619-7603-93-4, ISSN:1314-2704, DOI:10.5593/sgem2025v/4.2/s21.96.1, pp. 883–890.

В реферирани издания, индексирани в световни литературни източници

  1. Staykov, B., Atanasova, T. Smart Control System for Photovoltaic Power Plants. 23rd Industrial Simulation Conference ISC’2025, Skövde, Sweden, EUROSIS-ETI, 2025, ISBN:978-9-492859-35-8, pp. 67–70.
  2. Petrov, P., Atanasova, T. Enhancing Students’ Communication Skills with AI-Powered VR Soft Skills Training. 23rd Industrial Simulation Conference ISC’2025, Skövde, Sweden, EUROSIS-ETI, 2025, ISBN:978-9-492859-35-8, pp. 48–51.
  3. Kopanov, K., Atanasova, T. Evaluating Semantic Preservation in Multilingual Round-Trip Translation. 39th European Simulation and Modelling Conference ESM’2025, Ghent, Belgium, EUROSIS-ETI, 2025, ISBN:978-9492859-38-9, pp. 87–94.
  4. Atanasova, T., Danev, V., Dineva, K. Integrating AI into the Energy Transition Towards Renewable Energy Sources. 10th International Conference on Energy Efficiency and Agricultural Engineering EE&AE 2025, Stara Zagora, Bulgaria, IEEE, 2025, pp. 1–6, DOI:10.1109/EEAE65901.2025.11273792.

Приети за публикуване

  1. Danev, V., Muchanova, V. Optimizing Workflow in Industry through the Internet of Things and Artificial Intelligence. 51st International Conference „Applications of Mathematics in Engineering and Economics“ AMEE 2025, приета за печат.
  2. Petrov, P., Atanasova, T. Integrating AI-Generated 3D Models into Education – A Methodological and Practical Approach. 51st International Conference „Applications of Mathematics in Engineering and Economics“ AMEE 2025, приета за печат.
  3. Varbanov, V., Atanasova, T. Detecting Information Operations Using Machine Learning Algorithms. 51st International Conference „Applications of Mathematics in Engineering and Economics“ AMEE 2025, приета за печат.
  4. Kopanov, K., Atanasova, T. Degradation of Stylometric Attribution Accuracy for AI-Generated Text. 51st International Conference „Applications of Mathematics in Engineering and Economics“ AMEE 2025, приета за печат.
  5. Dineva, K., Atanasova, T. Comparative Analysis of LLM, LRM, and DRM Models for Building an AI Agent in Socially Relevant Domains. XXVI International Multidisciplinary Scientific GeoConference SGEM 2026, юли 2026, SGEM, ISSN:1314-2704, приета за печат.
  6. Dineva, K., Atanasova, T. From Model Selection to System Design: Architectural Foundations for AI Agents in Knowledge-Driven Systems. XXVI International Multidisciplinary Scientific GeoConference SGEM 2026, юли 2026, SGEM, ISSN:1314-2704, приета за печат.
  7. Kopanov, K., Atanasova, T. Scaling Quantum Support Vector Machines for AI-Generated Text Attribution: Dimensionality, Shots, and Linguistic Feature Insights. ICAMCS 2025 – 5th International Conference on Applied Mathematics & Computer Science / WSEAS Transactions on Information Science and Applications, ISSN:1790-0832, приета за печат.
  8. Kopanov, K., Atanasova, T. Distinguishing Lexical Deviation from Semantic Resilience in LLM-Based Round-Trip Translation. New Trends in Computer Sciences, 2026, eISSN:2783-6851, приета за печат.
  9. Danev, V. Използване на генеративен AI в психотерапевтичната практика – технологична еволюция и парадигмална промяна в грижата за психичното здраве. XXV Международна научна конференция „Приложна психология и социална практика“, юни 2026, ВСУ „Черноризец Храбър“, Варна, приета за печат.
  10. Kopanov, K., Atanasova, T. Hallucination Without Abstention: Auditing Qwen 3.5 on SimpleQA. Studies in Computational Intelligence, Springer Nature, ISSN:1860-949X, eISSN:1860-9503, приета за печат.

Ресурси

Информацията ще бъде добавена скоро.