دیپ‌کمپ

مفاهیم آموزشی:

• ساختارهای داده پیشرفته در پایتون (لیست، دیکشنری، مجموعه‌ها، تاپل‌ها)
• برنامه‌نویسی شی‌گرا (OOP)
• اشنایی با فرایند های Multiproceesing,multithreading and coroutines
• مدیریت خطا و نوشتن کد پاک (clean code)
• آشنایی با Jupyter Notebook و VS Code

ابزارها: Python 3.x Jupyter، VSCode

پروژه هفتگی:

تحلیل داده‌های اقتصادی یا جمعیتی: شامل پیاده‌سازی کلاس‌ها، فیلتر داده، محاسبه آماری و مدیریت خطا

مفاهیم آموزشی:

• ‌NumPy و Pandas پیشرفته
• ‌‌Indexing، groupby، merge، apply
• پاک‌سازی و preprocess داده، handling missing data، حذف دیتای duplicated و outlier ها (روش‌های ابتدایی) انجام EDA (Exploratory Data Analysis) انواع نمودارها، درک نمودار با توجه به تسک، رسم انواع آنها با Matplotlib و Seaborn

ابزارها: NumPyPandas، Seaborn، Matplotlib

پروژه هفتگی:

تحلیل داده‌های فروش آنلاین (Amazon) یا دیجی‌کالا: شامل پاک‌سازی، تحلیل گروهی و مصورسازی ترند فروش, EDA

مفاهیم آموزشی:

• ‌مفاهیم معماری Big Data
• آشنایی با Spark ، DataFrame، Spark SQL
• آشنایی با پارادایم MapReduce
• اشنایی با برخی دیتا استراکچرهای مرسوم در بیگ دیتا (مانند parquet)
• پردازش داده‌های حجیم و مقایسه با Pandas

ابزارها: Apache Spark (PySpark)

پروژه هفتگی:

تحلیل لاگ‌های سیستم یا هر داده حجیم دیگر با pyspark، انجام EDA و بررسی ویژگی‌های مختلف داده حجیم با استفاده از pyspark

مفاهیم آموزشی:

• ‌Linear & Logistic Regression، SVM، Decision Tree، Random Forest، Gradient Boosting، KNN
• KMeans, DBSCAN، Hierarchical Clustering، PCA
• متریک‌های ارزیابی مدل accuracy، precision، recall، F1،AUC ROC، cross-validation

ابزارها: Scikit-learn

مفاهیم آموزشی:

• ‌Linear & Logistic Regression، SVM، Decision Tree، Random Forest، Gradient Boosting، KNN
• KMeans, DBSCAN، Hierarchical Clustering، PCA
• متریک‌های ارزیابی مدل accuracy، precision، recall، F1،AUC ROC، cross-validation

ابزارها: Scikit-learn

پروژه هفتگی:

پیش‌بینی عدم بازپرداخت وام با استفاده از داده‌های بانکی. شامل پردازش داده‌ها (imputation، encoding، scaling)، آموزش مدل‌های مختلف طبقه‌بندی (Logistic Regression، SVM، Random Forest، Gradient Boosting)، و ارزیابی آن‌ها با انتخاب متریک های مناسب .

مفاهیم آموزشی:

• ‌تحلیل کیفی خطا، slicing داده، شناسایی بایاس و confounding variables
• A/B تست با در نظر گرفتن معنی‌داری آماری (statistical significance)
• ‌فرضیه‌سازی و تست تجربی برای بهبود مدل
• کار با MLflow برای track کردن آزمایشات و مقایسه نتایج

ابزارها :Matplotlib، Seaborn، MLflow

پروژه هفتگی:

تحلیل مدل هفته قبل با slicing داده‌ها، بررسی دلایل بایاس و طراحی A/B تست با ارزیابی آماری برای انتخاب نسخه‌ی بهتر مدل.

مفاهیم آموزشی:

• ‌ساختار شبکه‌های عصبی، MLP، CNN، RNN، LSTM
• مفاهیم backpropagation، activation functions، optimization (Adam، RMSprop)
• پیاده‌سازی regularization (Dropout، BatchNorm)‌
• آشنایی با AutoEncoder و مدل‌های یادگیری عمیق معروف (EfficientNet, MobileNet, ResNet, Inception, U-Net)
• آشنایی با مدل‌های Generative (VAE, GAN)آشنایی مختصر با معماری Transformer و Attention (جزییات دقیق پیاده‌سازی و ریاضیاتی نیاز نیست)

ابزارها TensorFlow: Keras، PyTorch

پروژه هفتگی:

دسته‌بندی تصاویر حیوانات با CNN: طراحی یک مدل CNN از پایه برای دیتاست تصاویر حیوانات - مقایسه با مدل‌های از پیش آموزش‌دیده (استفاده از Transfer Learning با ResNet یا MobileNet یا EffNet) – استفاده از تکنیک های Augmentation، Regularization و visualizing activations

مفاهیم آموزشی:

• ‌ساختار شبکه‌های عصبی، MLP، CNN، RNN، LSTM
• مفاهیم backpropagation، activation functions، optimization (Adam، RMSprop)
• پیاده‌سازی regularization (Dropout، BatchNorm)‌
• آشنایی با AutoEncoder و مدل‌های یادگیری عمیق معروف (EfficientNet, MobileNet, ResNet, Inception, U-Net)
• آشنایی با مدل‌های Generative (VAE, GAN)آشنایی مختصر با معماری Transformer و Attention (جزییات دقیق پیاده‌سازی و ریاضیاتی نیاز نیست)

ابزارها TensorFlow: Keras، PyTorch

پروژه هفتگی:

‌تولید تصاویر با مدل‌های مولد: پیاده سازی و آموزش یک VAE بر روی دیتاست MNIST برای بازسازی ارقام – طراحی و آموزش GAN (مانند DCGAN) برای تولید تصاویر مصنوعی (دیتاست های مختلفی میتوان گفت. برای دیتای کم حجم Cifar10 مناسب است.) – تحلیل نمونه های تولید شده توسط هر دو مدل

مفاهیم آموزشی:

• ‌اصول AutoML، baselineها، tradeoff بین هزینه و عملکرد
• اجزای pipeline خودکار (preprocessing، model selection، tuning)
• ‌تحلیل خروجی و تفسیر مدل‌های AutoML مانند SHAP

ابزارها H2O.ai: Auto-sklearn

پروژه هفتگی:

‌مدل پیش‌بینی churn با AutoML و مقایسه آن با مدل دستی طراحی‌شده در scikit-learn از نظر دقت، زمان آموزش، و تفسیرپذیری مدل

مفاهیم آموزشی:

• ‌Paradigm Pretraining/Fine-tuning
• Self-supervised learning: MLM، contrastive learning

ابزارها Hugging Face Transformers:، PyTorch، TensorFlow

پروژه هفتگی:

‌آموزش BERT کوچک روی داده‌های متنی فارسی به صورت self-supervised و fine-tuning

مفاهیم آموزشی:

• ‌پیش‌پردازش متن، Word2Vec، GloVe، BERT، GPT
• آشنایی با EDA های مرتبط با متن و NLP
• Named Entity Recognition، sentiment analysis

ابزارها spaCy:، NLTK، Hugging Face، OpenAI API

پروژه هفتگی:

‌ساخت یک سرویس تحلیل احساسات روی کامنت کاربران با API مدل‌های زبانی بزرگ

مفاهیم آموزشی:

• ‌پردازش تصویرو پیش‌پردازش های مرتبط، Tra Object Segmentation، Object Detection
• متریک‌های IoU، Dice، mAP
• آشنایی با مدل‌های VGG، YOLO، Faster R-CNN

ابزارهاOpenCV, PIL:، TensorFlow، PyTorch

پروژه هفتگی:

‌مدل تشخیص اشیاء در تصاویر ترافیکی با YOLO یا Faster R-CNN – ارزیابی مدل با متریک های مناسب

مفاهیم آموزشی:

• ‌Transfer Learning، LoRA، QLoRA، PEFT
• ‌ساخت دیتاست آموزشی و نوشتن promptها
• ‌پالایش داده‌ها: فیلتراسیون، پاک‌سازی، حذف موارد تکراری یا نامناسب
• معیارهای طراحی داده‌های آموزشی موثر برای alignment مدلها

ابزارها Hugging Face PEFT:، bitsandbytes

پروژه هفتگی:

‌فاین‌تیون مدل LLaMA با استفاده از یک دیتاست custom برای پاسخ‌گویی به سوالات پشتیبانی مشتری، شامل طراحی dataset، پاک‌سازی، prompt engineering، و استفاده از QLoRA برای آموزش کم‌هزینه.

مفاهیم آموزشی:

• ‌اصول کاهش حجم مدل و سرعت inference
• ‌GPTQ، AWQ
• Evaluation and Benchmarking سرعت، دقت، حافظه و کیفیت قبل و بعد از Quantization

ابزارها AutoGPTQ:، ctransformers

پروژه هفتگی:

Quantization یک مدل GPT و مقایسه جامع آن با نسخه اصلی از نظر سرعت اجرا، حافظه مصرفی و کیفیت پاسخ‌ها در یک تسک مشخص (مثل پرسش و پاسخ)

مفاهیم آموزشی:

• ‌Embedding، similarity search، ANN

ابزارها FAISS:، Pinecone، ChromaDB، Milvus

پروژه هفتگی:

ساخت موتور جستجوی مفهومی برای مقالات علمی

مفاهیم آموزشی:

• ‌معماری RAG، LangChain، LlamaIndex، ReAct agents

ابزارها: LangChain، AutoGen، LangGraph

پروژه هفتگی:

ساخت چت‌بات جستجوگر با استفاده از RAG و vector search

مفاهیم آموزشی:

• ‌آشنایی با Entity Diagram، one-to-one, one-to-many, many-to-many Relationships
• NoSQL SQL: SELECT، JOIN، schema design، migration
• : مدل document، MongoDB

ابزارها: PostgreSQL، SQLAlchemy، MongoDB

پروژه هفتگی:

طراحی دیتابیس های مورد نیاز برای یک فروشگاه با استفاده از SQL و NoSQL

مفاهیم آموزشی:

• ‌ساخت ETL pipeline با Prefect/Dagster
• پردازش داده real-time با Kafka، Spark Streaming

ابزارها Airflow:، Dagster، Spark، Kafka

پروژه هفتگی:

تحلیل real-time از توییت‌ها یا تراکنش‌ها برای تشخیص تقلب یا trend

مفاهیم آموزشی:

• ‌ساخت REST API، Docker، CI/CD
• تست، dependency injection، Poetry

ابزارها: FastAPI، Docker، GitHub Actions، Pytest، SQLAlchemy

پروژه هفتگی:

ساخت API مدل پیش‌بینی و استقرار آن به‌صورت production-ready

مفاهیم آموزشی:

• ‌نسخه‌بندی داده و مدل با DVC و MLflow
• SHAP، LIME، GradCAM، attention attribution
• امنیت مدل و robust بودن نسبت به حملات adversarial

ابزارها :MLflow، SHAP، LIME، ART (Adversarial Robustness Toolbox)

پروژه هفتگی:

تحلیل ویژگی‌های مهم مدل و مقاوم‌سازی در برابر حملات دستکاری ورودی