۵ کاری که نباید به چت جیپیتی بسپارید
چتجیپیتی میتواند دستیار بسیاری از کارهای روزمره باشد، اما برخی اطلاعات و تصمیمها را نباید به آن سپرد.
به گزارش گروه رسانهای شرق،
هوش مصنوعی حالا در بسیاری از کارهای روزمره از نوشتن و تحقیق گرفته تا برنامهریزی و حل مسائل به کاربران کمک میکند، اما گسترش استفاده از چتجیپیتی یک سؤال مهم را هم پررنگ کرده است: کدام اطلاعات و تصمیمها نباید به یک چتبات سپرده شوند؟ استفاده بیاحتیاط از چتجیپیتی در این ۵ روند میتواند پیامدهای جدی داشته باشد.چتجیپیتی میتواند در توضیح مفاهیم، تهیه پیشنویس، ایدهپردازی و حتی تحقیق اولیه مفید باشد، اما پاسخ روان و مطمئن یک مدل زبانی الزاماً به معنای درست یا قابل اتکا بودن آن نیست. مشکل زمانی جدیتر میشود که کاربر پاسخ مدل را جایگزین متخصص، مشاور یا یک منبع رسمی کند. به همین دلیل، مرز میان کمک گرفتن از هوش مصنوعی و سپردن یک تصمیم حساس به آن اهمیت زیادی دارد.
پرسشهای پزشکی؛ پاسخ هوش مصنوعی تشخیص پزشک نیستچتجیپیتی میتواند درباره اصطلاحات پزشکی توضیح بدهد یا اطلاعات عمومی ارائه کند، اما پاسخ آن نباید مبنای تشخیص بیماری، انتخاب دارو یا تغییر یک درمان قرار بگیرد.یکی از مشکلات اساسی این است که مدل ممکن است با اطمینان درباره موضوعی پاسخ دهد که در آن اشتباه کرده است. حتی وقتی یک پاسخ از نظر زبانی منطقی و متقاعدکننده به نظر میرسد، نمیتوان صحت پزشکی آن را از روی لحن پاسخ تشخیص داد.برای علائم، داروها، نتایج آزمایش، رژیمهای درمانی یا تصمیمهای پزشکی، پزشک و منابع معتبر پزشکی باید مرجع اصلی باشند. هوش مصنوعی در این حوزه میتواند ابزار توضیحدهنده باشد، نه جایگزین متخصص.
رمز عبور و اطلاعات هویتی؛ خط قرمز استفاده از چتباتپنجمین مورد شاید سادهترین قاعده را داشته باشد: رمز عبور، کدهای ورود، شماره کارت و حساب بانکی، شماره گذرنامه، اطلاعات هویتی و تصاویر مدارک شناسایی را در چتجیپیتی وارد نکنید.در سال گذشته، تعدادی از گفتوگوهای بهاشتراکگذاشتهشده کاربران برای مدتی در نتایج جستوجوی گوگل ظاهر شدند؛ قابلیتی که بعداً از سوی اپنایآی متوقف شد. این اتفاق نشان داد که نحوه اشتراکگذاری یک گفتوگو میتواند پیامدهای فراتر از تصور کاربر داشته باشد.از سوی دیگر، سیاستهای مربوط به نگهداری و استفاده از دادهها ممکن است در طول زمان تغییر کند و شرایط حسابهای مختلف نیز یکسان نیست. بنابراین یک اصل ساده همچنان کاربرد دارد: اگر افشای یک اطلاعات میتواند به سرقت هویت، دسترسی به حساب یا خسارت مالی منجر شود، آن اطلاعات نباید در یک چتبات عمومی وارد شود.
مشاوره روانشناختی؛ همدلی مصنوعی جای متخصص را نمیگیرددومین حوزه حساس، استفاده از چتجیپیتی بهعنوان درمانگر یا مشاور روانشناختی است. چتبات میتواند به صحبت کردن درباره احساسات یا مرتب کردن افکار کمک کند، اما برای تشخیص یا درمان اختلالات روانی طراحی نشده است و ممکن است صرفاً بر اساس اطلاعاتی که کاربر ارائه کرده، پاسخ تولید کند.یکی از نگرانیهای مطرحشده درباره چتباتها این است که مدل ممکن است بیش از اندازه با دیدگاه کاربر همراه شود و به جای به چالش کشیدن یک برداشت نادرست، آن را تأیید کند. چنین مشکلی در موقعیتهایی که فرد نیازمند ارزیابی حرفهای است، اهمیت بیشتری پیدا میکند. به همین دلیل، چتبات نباید جای روانشناس، روانپزشک یا خدمات حرفهای سلامت روان را بگیرد.
مشاوره حقوقی؛ جایی که یک پاسخ اشتباه میتواند گران تمام شودیکی از حوزههایی که نباید چتجیپیتی را جایگزین وکیل کرد، مسائل حقوقی است. مدلهای زبانی ممکن است هنگام پاسخگویی به پرسشهای حقوقی، اطلاعات نادرست یا حتی استنادهای ساختگی ارائه کنند.مسئله فقط اشتباه محتوایی نیست. گفتوگو با چتجیپیتی از همان حمایتهای محرمانگی که معمولاً میان موکل و وکیل وجود دارد برخوردار نیست. بنابراین برای یک اختلاف حقوقی واقعی، بهتر است هوش مصنوعی نهایتاً برای فهم اصطلاحات یا آمادهسازی پرسشهای اولیه استفاده شود و تصمیمگیری به متخصص حقوقی سپرده شود.
اطلاعات محرمانه کاری؛ هر چیزی را در چت کپی نکنیدیکی از سادهترین اشتباهها، وارد کردن اسناد و اطلاعات محرمانه شرکتها در یک حساب شخصی هوش مصنوعی است. به همین دلیل سامسونگ تصمیم گرفت تا استفاده از ابزارهای هوش مصنوعی مولد در دستگاههای سازمانی را محدود کند؛ تصمیمی که پس از وارد کردن کدهای داخلی شرکت در یک چتبات مطرح شد.اطلاعاتی مانند قراردادهای محرمانه، کدهای منبع، اطلاعات مشتریان، اسناد داخلی و دادههایی که تحت توافق عدم افشا قرار دارند، نباید بدون اطلاع و مجوز سازمان در یک سرویس هوش مصنوعی عمومی قرار بگیرند. حتی اگر یک کاربر تصور کند اطلاعات واردشده خصوصی باقی میماند، موضوع ذخیرهسازی، دسترسی، تنظیمات حساب و الزامات قانونی همچنان اهمیت دارد.
هوش مصنوعی دستیار است، نه صاحب اختیارگسترش چتجیپیتی به این معنا نیست که این ابزار برای هر نوع تصمیمی مناسب است. استفاده درست از هوش مصنوعی بیشتر به شناخت محدودیتهای آن وابسته است تا صرفاً دانستن قابلیتهایش. چتجیپیتی میتواند یک متن حقوقی را به زبان ساده توضیح دهد، درباره یک موضوع پزشکی اطلاعات عمومی بدهد، درک یک مسئله را آسانتر کند یا برای یک کار اداری پیشنویس تهیه کند؛ اما این کاربردها با سپردن تصمیم نهایی به مدل تفاوت دارند.راهنمای رسمی اپنایآی نیز استفاده از وظایف زمانبندیشده چتجیپیتی را برای کارهایی مانند پایش تغییرات، تهیه گزارشهای دورهای و اجرای درخواستهای تکرارشونده توضیح میدهد، اما این قابلیت هم به معنای قابلاعتماد بودن مدل برای تصمیمهای حساس نیست.در نهایت، قاعده کاربردی این است که هرچه یک تصمیم به پول، سلامت، حقوق، اطلاعات محرمانه یا هویت فردی نزدیکتر باشد، فاصله میان کمک گرفتن از هوش مصنوعی و اعتماد کردن به هوش مصنوعی باید بیشتر شود. چتبات میتواند نقطه شروع یک فرایند باشد، اما در موضوعات حساس، بررسی انسانی و استفاده از متخصص همچنان بخش اصلی تصمیمگیری است.
برای اطلاع از آخرین اخبار و تحلیلها به کانال شرق در «تلگرام» بپیوندید.
