tech-afternoon

باگ ۱۶ ساله‌ی SQLite، و شش ماه زمان که Tailscale صرف پیدا کردنش کرد!این ماجرای جالبیه از مشکل SQlite که سال‌ها وجود داشته ولی بین این همه کاربر SQLite که از پروژه کوچیک شخصی تا زیرساخت‌های بزرگ ازش استفاده کردن؛ گریبان‌گیری Tailscale شد. داستان مهندسی پشتش و پیدا کردن دلیلش اینقدر جالب بود که به صورت کامل‌تر (با توضیحات اضافه که برای دوستانی که جزئیات دیتابیس‌ها رو نمی‌دونن هم بار آموزشی داشته باشه و مبهم نمونه) 🔗 اینجا نوشتم.من در مورد دیتابیس حداقل ۲ مورد مشابه رو تجربه کردم که باگ جدی گریبان‌گیر یه شرایط خیلی خاص شد؛ یکیش حتی به مکاتبه با Kimberly کشید و اونم گفت نمیشه کاری کرد؛ ولی چند ماه تعطیل کردن اکثر کارها برای تمرکز روی یک باگ و بارها سفر به جنوب منجر به حلش شد. و دومی ۳۶ ساعت کار بدون وقفه (در حد غذا و...) و جمع کردن حجم عظیمی از لاگ‌ها نتونست کمک کنه تا اینکه از جایی که عقل جن هم بهش نمیرسید ایراد رو پیدا کردم. متاسفانه در شرایط فعلی ترجیح می‌دم توضیح بیشتری ندم درحالیکه دوست دارم روزی با جزئیات، داستان و مسیر حلشون رو بنویسم.این دو تا باگ؛ جزو تجربیاتی بود که به «یادگیری عمیق» من از انجین دیتابیس و لایه‌های پایین‌تر خیلی کمک کردن؛ این که دقیقا خود انجین چجوری برخی کارها رو انجام میده (خوندن این دو تا فایل از pg 8.1 و ده‌ها فایل دیگه ازش کمک کرد یه بخشی از انجین دیگه‌ای که کدش بسته بود رو با حدس بفهمم و برای منظور خاص بخشی از رفتار انجین رو طوری بازنویسی کنم که رفتار مورد نظرم رو انجام بده تا مسئله رو بشه حل کرد فایل ۱ و فایل ۲)

🖊 چرا سؤال نداریم؟این موضوع رو در ۳ پُست مجزا، به ظاهر طولانی ولی در قسمت‌های کوتاه که منقطع خوندنشون آسون باشه تموم کردم. توی این سه بخش سعی کردم از سه زاویه متفاوت بهش نگاه کنم:1️⃣ چرا سؤال اصلاً توی ذهن ما شکل نمی‌گیره؟از شکاف اطلاعاتی و اطمینان کاذب، تا نقش آموزش و کودکی در ساختن یا خاموش‌کردن پرسشگری.🔗 [لینک بخش اول]2️⃣ وقتی سؤال داریم، چرا نمی‌پرسیم؟از امنیت روانی و فاصله با قدرت، تا فرهنگ، و سکوتی که گاهی اصلاً نشانه رضایت نیست.🔗 [لینک بخش دوم]3️⃣وقتی سؤال می‌پرسیم، آیا واقعاً دنبال فهمیدنیم؟ و اثر هوش‌مصنوعیآیا فقط دنبال شاهدی برای تأیید جوابی هستیم که از قبل انتخاب کردیم؟ این بخش بیشتر درباره Confirmation Bias، هوش مصنوعی و خطر تازه‌ای به اسم Sycophancy است.🔗 [لینک بخش سوم]به‌نظرم در هر شغل، موقعیت و سطحی، «پرسشگر» بودن، بلد بودنِ پرسش خوب و توانایی دیدن و حل مسئله، مهارت‌های بنیادی‌ای هستن.دعوت می‌کنم بخونید و اگه براتون مفید بود، برای بقیه هم بفرستید. پی‌نوشت: معرفی موضوع، ۲۰۸۸ بار دیده شد و ۳۲ بار بازنشر! ولی قسمت اول مطلب ۵۹ بار دیده شد. نمونه بانمکی از پیشی گرفتن آگهی از آگاهی بود!

🌟 انواع حملات پرامپت اینجکشن به زبان ساده و با مثالهمون‌طور که شیوه توسعه نرم‌افزار و نحوه تعامل کاربر با نرم‌افزار، بعد از فراگیر شدن مدل‌های زبانی، تغییر کرده، نحوه تهاجم و حملات نرم‌افزاری هم تغییر کرده. یکی از موضوعاتی که باید بهش توجه مضاعفی کنیم، حملات Prompt Injection است که انواعش رو به زبان ساده و با مثال توضیح می‌دم.به زبون ساده، Prompt Injection یعنی مهاجم تلاش کنه با واردکردن دستوراتی در ورودی، رفتار مدل رو از هدف اصلی‌اش منحرف کنه، محدودیت‌ها رو دور بزنه یا مدل رو وادار کنه اطلاعات یا عملیاتی ناخواسته انجام بده. برعکس حملات سنتی نرم‌افزار، خیلی‌هاش بُعد فنی زیاد و کدنویسی عجیب نداره، و گاها با کمی زیرکی و هوش و زبون‌بازی می‌شه حمله رو درآورد!!۱۸ مدل حمله رو با مثال و به صورت خلاصه و ساده توضیح دادم، و فکر می‌کنم خوندنش خوب باشه. و دقت کنید که همین یکی دو ماه گذشته شرکت‌های بزرگ تکنولوژی و حتی توسعه‌دهنده مدل‌ها هم درگیر چنین حملاتی شدن؛ پس درک داشتن از چنین حملاتی لازمه.1. Direct Prompt Injection2. Indirect Prompt Injection3. Stored Prompt Injection4. Reflected Prompt Injection5. Cross-Context Prompt Injection6. Tool-Use Injection7. Tool Output Injection8. RAG Prompt Injection9. Multimodal Prompt Injection10. Prompt Obfuscation11. Role-Playing Injection12. Instruction Hierarchy Attack13. Context Poisoning14. Memory Poisoning15. Data Exfiltration Injection16. Goal Hijacking17. Denial-of-Service Prompt Injection18. Agent-to-Agent Prompt Injection🔗 لینک مطلب