→ חזרה למאמרים ופרויקטים

MyLeads AI — Secure AI Platform & Systems Architecture Case Study

Secure AI Platform Architecture with Linux Systems Engineering, Zero Trust Infrastructure, Performance Optimization & AI Workflows

מאת שי מרדכי | 9 במרץ 2026

1. Systems Engineering Overview

המערכת תוכננה מתוך גישה של Bottom-Up Engineering: הבנת שכבות המערכת מניהול ה-Runtime והקרנל, דרך ניהול משאבים, ועד לשכבת הענן והאפליקציה.

• Linux process isolation: שימוש ב-Rootless Containers להפרדת תהליכים (Process boundaries) ללא הרשאות חריגות.
• Container runtime security: צמצום שטח התקיפה הפנימי ברמת מערכת ההפעלה.
• Memory and resource management: הקצאה מדויקת של זיכרון למניעת הפעלת ה-OOM-Killer בקרנל של לינוקס.
• Network boundaries & Service communication: הפרדה לוגית ותקשורת מבודדת בין רכיבי ה-Backend, ה-Workers ומסד הנתונים.
• Secure deployment pipelines: אוטומציה ואכיפת בטיחות כבר בשלב ה-Build.

---

2. Threat Model Overview

בשלב התכנון זוהו שלוש קטגוריות סיכון מרכזיות למערכת מבוזרת:

2.1 External Attack Surface

• Automated bot scanning (סריקות בוטים אוטומטיות לזיהוי חולשות)
• API abuse attempts & Network-layer DDoS

2.2 Application Layer Risks

• Authentication bypass & Session Hijacking
• IDOR (Insecure Direct Object Reference) / Broken Access Control
• Webhook spoofing (זיוף בקשות ממערכות צד ג')

2.3 AI & Automation Risks

• Prompt injection
• Data leakage via AI outputs (PII Exposure)

3. Secure SDLC & CI/CD Security Model

המערכת נבנתה סביב צינור פריסה (pipeline) קשיח מבוסס:

• GitHub Actions (build/test/deploy orchestration)
• Pytest & Playwright (Backend/Frontend validation)
• Database Schema Gatekeeper: שילוב alembic check כחובת מעבר ב-Pipeline למניעת CrashLoopBackOff בייצור עקב חוסר סנכרון סכימות.

4. Hybrid Zero Trust Cloud Architecture

4.1 Network Exposure & Access Control

המערכת נבנתה כך שאין פתיחת inbound ports (0.0.0.0/0 ריק לחלוטין). התעבורה נכנסת דרך Cloudflare Tunnel בלבד (outbound-only model).

גישה ניהולית (SSH) מחייבת הזדהות מול Cloudflare דרך חשבון ProtonMail ייעודי, ומאובטחת באמצעות MFA קשיח (Hardware Security Key). אין אפשרות לעקוף את מנגנון הניהול ללא מפתח חומרה פיזי.

4.2 Runtime Isolation & Resource Protection

• Containers מופעלים ב-Rootless Podman על גבי Enterprise Linux, למניעת Privilege Escalation (הסלמת הרשאות) במקרה של Container Escape.
• הגבלת משאבים קשיחה (cgroups) למניעת קריסות שרשרת: ה-Worker מוגבל ל---memory="400m" ו---memory-swap="2.4g".

5. Secrets & Identity Security (Hybrid Cloud)

במקום שימוש ב-.env סטטי על דיסק, סודות נטענים בזמן runtime מתוך AWS SSM Parameter Store ומפוענחים על ידי AWS KMS, ונשארים אך ורק בזיכרון ה-RAM של האפליקציה.

בנוסף, מתבצע שימוש ב-IMDSv2 בלבד (token-based metadata access) המפחית דרמטית סיכוני SSRF metadata abuse.

6. Authentication & Session Security Design

האותנטיקציה פועלת במבנה אטומי למניעת OTP Replay Attacks: ה-OTP נמחק מה-DB ומבוצע db.commit() לפני הנפקת ה-JWT. ייצור ה-OTP מבוסס על ה-CSPRNG של מערכת ההפעלה.

כל החלטת הרשאה מבוססת JWT claims בלבד דרך מנגנון get_current_user ריכוזי, החוסם את הבקשה בשכבת הניתוב לפני הגישה ללוגיקה העסקית (מונע IDOR).

7. Real-World AppSec Mitigations

7.1 WASM DLP Firewall (Information Disclosure Prevention)

פילטר WebAssembly (WASM) שכתבתי ב-Rust פועל כ-Sidecar בתוך Envoy Proxy. הארכיטקטורה עובדת במוד Fail-Closed: ה-WASM מצנזר בזמן אמת שגיאות 5xx ומעלים Stack Traces שעלולים להדליף מידע פנימי.

7.2 Proxy-Aware Rate Limiting

ה-Rate Limiter שולף את כתובת התוקף האמיתית מתוך ההדר CF-Connecting-IP כדי למנוע חסימה גלובלית (Global DoS) של כל המשתמשים דרך כתובת ה-Loopback של ה-Tunnel.

---

8. Performance & Runtime Engineering (The C++ Expansion)

מעבר לשיקולי אבטחה, המערכת תוכננה עם דגש רב על יעילות Runtime, ניהול משאבים, והכנה ל-Scaling פנימי. זיהוי צווארי בקבוק (Bottlenecks) הראה שעיבוד משימות AI ואודיו כבדות דורש אופטימיזציה ברמת המערכת.

High-Performance Processing Engine (In Development):
כדי לפתור זאת, שכבת העיבוד הקריטית עוברת מיגרציה למנוע עיבוד ב-C++ מותאם אישית. מהלך זה ממחיש את המעבר מארכיטקטורת ענן High-Level לעבודת Low-Level Systems:

• mmap & Shared Memory: העברת נתונים בין רכיבי המערכת בארכיטקטורת Zero-copy לחסכון בהעתקות זיכרון יקרות.
• IPC (Inter-Process Communication): פיתוח מנגנון תקשורת מהירה ויעילה בין ה-Workers.
• Worker Pool & Thread Affinity: שיוך תהליכונים לליבות ספציפיות (Core Pinning) למניעת Context-Switching מיותר על ידי ה-OS Scheduler.
• Linux Syscalls: עבודה ישירה מול הקרנל לניהול משאבים (Memory Pools) מינימליסטי המונע פגיעה בביצועים עקב Garbage Collection או Fragmentation.

---

9. Open Findings & Continuous Hardening

במסגרת פילוסופיית שקיפות הנדסית, ממצאים פתוחים מנוהלים באופן אקטיבי:

• SEC-015 (Webhook Spoofing): ה-endpoint של Twilio כרגע מעבד בקשות ללא אימות חתימה קריפטוגרפית. התיקון המתוכנן הוא להטמיע Twilio Signature Validation Middleware.
• SEC-012 (Path Traversal): ייצוא מסמכים משתמש כעת ב-os.path.join. כדי למנוע Directory Traversal, יוטמע מנגנון secure_filename.

10. Summary of Engineering & Security Controls

Domain (תחום הנדסי)	Implementation & Strategy (אסטרטגיה ומימוש)
Systems & Performance	Linux Cgroups, Custom C++ Processing Engine (Planned), Zero-copy IPC, Memory pools
Network Security	Zero open ports, Cloudflare Tunnel ingress routing, Envoy Proxy
Administrative Access	Cloudflare IAP, ProtonMail identity, physical MFA (Hardware Keys)
Secrets Management	AWS SSM/KMS hybrid runtime injection (No .env on disk)
Runtime Isolation	Rootless Podman, strict memory limits (--memory="400m")
Secure SDLC	Automated GitHub Actions pipelines, integrated alembic check
DLP Proxying	Envoy WASM filter written in Rust for real-time traffic sanitization