با گسترش فناوری‌های هوش مصنوعی در آموزش زبان و محبوبیت پلتفرم‌هایی مانند Duolingo و Busuu، چالش‌های اخلاقی از جمله سوگیری الگوریتمی، نقض حریم خصوصی و فقدان شفافیت پدیدار شده است. این پژوهش با هدف تحلیل تجربه زیسته زبان‌آموزان و مدرسان درباره این چالش‌ها و راهبردهای مقابله‌ای آنان انجام شد .این پژوهش کیفی با رویکرد تفسیری و استراتژی مطالعه موردی انجام شد. سه پلتفرم Duolingo ، Busuu و Mondly به عنوان موارد پژوهش انتخاب شدند. داده‌ها از طریق مصاحبه نیمه ‌ساختاریافته همراه با تحلیل اسناد حریم خصوصی گردآوری شد. تحلیل داده‌ها با روش تحلیل مضمون براون و کلارک و نرم‌افزار M7AXQDA انجام شد و سه مضمون اصلی شناسایی شد: (۱) سوگیری الگوریتمی و تبعیض پنهان، شامل ناتوانی سیستم‌های تشخیص گفتار در درک لهجه‌های غیربومی، غلبه محتوای تک‌فرهنگی غربی، و ارزیابی‌های ناعادلانه فرضیات فرهنگ ‌محور؛ (۲) ابهام و مسئله “جعبه سیاه”، شامل فقدان شفافیت در تصمیم‌گیری الگوریتمی و شکاف دانش کاربران؛ (۳) حریم خصوصی و بهای پنهان داده‌ها، شامل جمع‌آوری گسترده داده‌های حساس فراتر از انتظار کاربران و درک مدل‌های کسب ‌وکار داده‌محور. یافته ها نشان داد حرکت به سوی هوش مصنوعی مسئولانه در آموزش زبان مستلزم ایجاد چارچوب‌های اخلاقی الزام‌آور بومی، آموزش سواد هوش مصنوعی، و پایبندی به اصول بنیادین است.