Skip to content

Latest commit

 

History

History
25 lines (20 loc) · 2.78 KB

grp-llm-psych.md

File metadata and controls

25 lines (20 loc) · 2.78 KB

Grupa: Osobowość w sztucznej inteligencji: czy modele językowe potrzebują psychologii?

Prowadzący

Wiktoria Mieleszczenko-Kowszewicz

Opis

W ramach projektów badawczych studenci skoncentruje się na analizie interakcji modeli językowych (LLM) z perspektywy psychologii osobowości oraz lingwistyki. Głównym celem jest zbadanie, w jaki sposób różne typy osobowości, zarówno zaszyte w promptach, jak i symulowane przez modele, wpływają na charakter generowanych odpowiedzi. Projekt obejmuje kilka zagadnień:

  1. Spójność i dopasowanie językowe
  2. Ograniczenia w symulacji osobowości
  3. Wpływ cech osobowości na odpowiedzi AI
  4. Wiarygodność testów samooceny
  5. Bezpieczeństwo i etyka osobowości w LLM

Proponowane artykuły

  • Frisch, I., & Giulianelli, M. (2024). LLM Agents in Interaction: Measuring Personality Consistency and Linguistic Alignment in Interacting Populations of Large Language Models. https://arxiv.org/abs/2402.02896
  • Gupta, A., Song, X., & Anumanchipalli, G. (2024, November). Self-assessment tests are unreliable measures of llm personality. In Proceedings of the 7th BlackboxNLP Workshop: Analyzing and Interpreting Neural Networks for NLP (pp. 301-314). https://aclanthology.org/2024.blackboxnlp-1.20/
  • Lee, S., Lim, S., Han, S., Oh, G., Chae, H., Chung, J., ... & Yu, Y. (2024). Do llms have distinct and consistent personality? trait: Personality testset designed for llms with psychometrics. https://arxiv.org/abs/2406.14703
  • Mieleszczenko-Kowszewicz, W., Płudowski, D., Kołodziejczyk, F., Świstak, J., Sienkiewicz, J., & Biecek, P. (2024). The Dark Patterns of Personalized Persuasion in Large Language Models: Exposing Persuasive Linguistic Features for Big Five Personality Traits in LLMs Responses. https://arxiv.org/abs/2411.06008
  • Petrov, N. B., Serapio-García, G., & Rentfrow, J. (2024). Limited Ability of LLMs to Simulate Human Psychological Behaviours: a Psychometric Analysis. https://arxiv.org/abs/2405.07248
  • Safdari, M., Serapio-García, G., Crepy, C., Fitz, S., Romero, P., Sun, L., Fitz, S., Romero, P., Abdulhai, M., Faust, A. & Matarić, M. (2023). Personality traits in large language models. https://arxiv.org/abs/2307.00184
  • Wilczyński, P., Mieleszczenko-Kowszewicz, W. & Biecek, P. (2024). Resistance Against Manipulative AI: key factors and possible actions. In: 27th European Conference on Artificial Intelligence. IOS Press.
  • Zhang, J., Liu, D., Qian, C., Gan, Z., Liu, Y., Qiao, Y., & Shao, J. (2024). The better angels of machine personality: How personality relates to llm safety. https://arxiv.org/abs/2407.12344
  • Zou, H., Wang, P., Yan, Z., Sun, T., & Xiao, Z. (2024). Can LLM" Self-report"?: Evaluating the Validity of Self-report Scales in Measuring Personality Design in LLM-based Chatbots. https://arxiv.org/abs/2412.00207 (edited)