چرا چتجیپیتی، این چتبات محبوب همیشه آنقدرها هم قابل اعتماد نیست؟
به گزارش مگتیو، پس از آنکه در سال 2022 از نسخه اولیه چت جی بی تی عرضه شد ، خیلی سریع این ابزار به یکی از پر استفاده ترین های جهان بدل شد. از دانشگاه تا شرکت های مختلف. از دانش آموزان تا فریلنسر ها همه از این ابزار استفاده کردند و خیلی زود نقش جدی در زندگی بسیاری از افراد پیدا کرد. اما در این مطلب می خواهیم پرده از واقعیت هایی برداریم که شاید از آسیب های احتمالی شما از این ابزار در آینده جلوگیری کند.
با مگتیو همراه باشید:
۱. چتجیپیتی ممکن است غلط جواب دهد
پاسخ های قاطع چت جی بی تی را جدی نگیرید! احتمال اینکه پاسخ های غلط دهد بالاست. حتی ممکن است پاسخی ناقص دهد یا اینکه جانبدارانه حرف بزند. پس مراقب پاسخ ها باشید و درست سنجی آنها را حتما انجام دهید
شرکت OPEN AI نیز هشدار داده که ممکن است این ابزار پژوهش جعلی تولید کند یا داده های نادرست دهد.
۲. گول این انسان نما را نخورید!
یکی از خطرناکترین ویژگیهای چتجیپیتی، شباهت رفتاری آن به انسان است. برخی کاربران آنقدر در گفتوگو با این ابزار غرق میشوند که رابطه عاطفی یا احساسی با آن شکل میگیرد. حتی گزارشهایی از «روابط مجازی» با چتباتها منتشر شده است. این حس صمیمیت میتواند باعث شود کاربران مسائل شخصی یا حساس خود را با چیزی در میان بگذارند که در نهایت فقط یک الگوریتم پیشبینی کلمات است، نه یک شنونده آگاه یا همدل واقعی.
۳. حافظه چتجیپیتی محدود است
برخلاف تصور رایج، چتجیپیتی همهچیز را به خاطر نمیسپارد. حافظه آن محدود به تعداد مشخصی از توکنهاست و فقط برخی اطلاعات کلی مانند علایق یا پروژههای بلندمدت را نگه میدارد. اطلاعات حساس، موقتی یا هویتی ذخیره نمیشوند، مگر اینکه کاربر بهطور مشخص درخواست کند.
۴. ممکن است گفتگو های شما را منتشر کند!
مراقب باشی دوست من ! چتجیپیتی یک دفترچه خاطرات امن نیست. سیاست حریم خصوصی اوپنایآی نشان میدهد دادههایی مانند محتوای گفتوگوها، فایلهای بارگذاریشده و اطلاعات حساب کاربری جمعآوری میشوند. این دادهها ممکن است برای بهبود خدمات، آموزش مدلها یا حتی در شرایط خاص، در اختیار نهادهای قانونی یا طرفهای ثالث قرار گیرند. حتی اگر کاربر استفاده از دادهها برای آموزش را غیرفعال کند، دسترسی انسانی در موارد خاص همچنان امکانپذیر است.
