محدودیت ها (و پیامدها) را درک کنید.
اول، مهم است که بدانید این فناوری چگونه کار می کند تا بدانید دقیقاً با آن چه می کنید.
ChatGPT اساساً یک نسخه قدرتمندتر و جذاب‌تر از سیستم متن پیش‌بینی‌کننده در تلفن‌های ما است که با استفاده از آنچه که از حجم وسیعی از داده‌های حذف شده از وب آموخته است، هنگام تایپ کردن، کلماتی را برای تکمیل یک جمله پیشنهاد می‌کند.
همچنین نمی تواند بررسی کند که آیا آنچه می گوید درست است یا خیر.
اگر از چت بات برای کدنویسی یک برنامه استفاده می کنید، به نحوه کامپایل شدن کد در گذشته نگاه می کند. از آنجایی که کد به طور مداوم برای رفع آسیب‌پذیری‌های امنیتی به‌روزرسانی می‌شود، کد نوشته شده با ربات چت می‌تواند باگ یا ناامن باشد. مسیحی گفت.
به همین ترتیب، اگر از ChatGPT برای نوشتن مقاله ای در مورد یک کتاب کلاسیک استفاده می کنید، این احتمال وجود دارد که ربات استدلال های به ظاهر قابل قبولی بسازد. اما اگر دیگران تجزیه و تحلیل نادرستی از کتاب را در وب منتشر کردند، ممکن است در مقاله شما نیز نمایان شود. اگر مقاله شما در آن زمان به صورت آنلاین پست می شد، در انتشار اطلاعات نادرست نقش داشته اید.
ملانی میچل، محقق هوش مصنوعی در موسسه سانتافه می گوید: «آنها می توانند ما را فریب دهند تا فکر کنیم بیشتر از خودشان می فهمند و این می تواند مشکلاتی ایجاد کند.
به عبارت دیگر، ربات مستقل فکر نمی کند. حتی نمی تواند حساب کند.
یک مورد: وقتی از ChatGPT خواستم یک شعر هایکو درباره هوای سرد سانفرانسیسکو بسازد، حیرت زده شدم. خطوطی را با تعداد هجاهای نادرست به بیرون پرتاب کرد:
مه شهر را پوشانده است،
بادهای تند تا استخوان می سوزد،
زمستان در سان فران.
OpenAI، شرکت سازنده ChatGPT، از اظهار نظر برای این ستون خودداری کرد.
به طور مشابه، ابزارهای ویرایش تصویر مبتنی بر هوش مصنوعی مانند Lensa الگوریتم های خود را با تصاویر موجود در وب آموزش می دهند. بنابراین، اگر زنان در زمینه‌های جنسی بیشتر ارائه شوند، ماشین‌ها این تعصب را بازسازی خواهند کرد. میچل گفت.
