Секция „Моделиране и оптимизация“

Описание

С разрастващото се интегриране на решения базирани на изкуствения интелект (ИИ) във всяка област от живота ни е от съществено значение да се изследват неговите основни процеси от научна гледна точка. По-дълбокото разбиране на механизмите, които са в основата на ИИ, особено големите езикови модели (LLMs), е от решаващо значение за адресирането на техните ограничения, като пристрастия, липса на устойчивост и предизвикателствата на адаптивността в динамични среди. Чрез възприемане на строги научни методи можем не само да подобрим точността и надеждността на моделите на ИИ, но и да гарантираме, че те са в съответствие с етичните стандарти и обществените ценности. Това изследване е особено значение за развитието на ИИ системи, които в близко бъдеще се цели да са не само мощни, но също така надеждни, справедливи и отговорни.

Настоящият етап на ИИ показва забележителни постижения в обработката на естествен език и взаимодействието човек-компютър. Тези модели демонстрираха безпрецедентни способности в разбирането и генерирането на текст, наподобяващ човешки, което доведе до широко приложение в различни области – от автоматизирани системи за отговор на запитвания до сложни изследователски инструменти. Въпреки тези постижения, остават значителни предизвикателства. LLMs могат да наследяват и дори да усилват социални пристрастия, заложени в техните обучителни данни, което води до изкривени, неетични или дори вредни резултати, като расистки изказвания, дезинформация или утвърждаване на стереотипи. Освен това, адаптивността на тези модели в реално време, способността им да функционират ефективно в многоагентни системи и съгласуваността им с човешките предпочитания остават критични области за активно изследване и бъдещи проучвания.

За да преодолеем тези предизвикателства и напълно да използваме потенциала на ИИ, е необходимо да възприемем систематичен и научен подход. Това включва подробно изучаване и усъвършенстване на моделите на ИИ, разработване на стабилни и разнообразни набори от данни и прилагане на усъвършенствани техники за фино настройване (fine-tuning) и оптимизация. Дълбокото разбиране на основните процеси на ИИ на научно ниво може да доведе до създаването на модели, които са по-устойчиви, адаптивни и способни да функционират в сложни, динамични среди. Освен това този подход отваря възможности за създаване на иновативни методи за оценка и намаляване на пристрастията, което гарантира, че ИИ системите са не само справедливи и включващи, но и способни да откриват и противодействат на проблеми като расизъм, дезинформация и други форми на вредно съдържание.

Екип

• Ръководител на изследователския екип Проф. д-р Татяна Атанасова ИИКТ-БАН
• Проф. д-р Десислава Иванова Технически университет – София
• Доц. д-р Кристина Динева ИИКТ-БАН
• Д-р Пламен Петров ИИКТ-БАН
• Д-р Виктор Данев ИИКТ-БАН
• Велизар Върбанов ИИКТ-БАН
• Калин Копанов ИИКТ-БАН

Работни пакети и график

Публикации и резултати

Информацията ще бъде добавена скоро.

Ресурси

Информацията ще бъде добавена скоро.