الجزء 18 من سلسلة تعلّم AWS من الصفر

خدمات تخزين ونقل إضافية

أنظمة الملفات الجاهزة في FSx، وربط مكتبك بتخزين السحابة عبر Storage Gateway، ونقل البيانات بـ DataSync وTransfer Family، ووش تسوي لو بياناتك أضخم من الإنترنت، مع مقارنة شاملة لخدمات التخزين.

في هذا المقال
  1. Amazon FSx: أنظمة ملفات جاهزة
  2. Storage Gateway: مكتبك والسحابة
  3. نقل البيانات
  4. مقارنة خدمات التخزين
  5. عملي: مزامنة مع DataSync
  6. الخلاصة
  7. اختبر نفسك

في الأجزاء السابقة غطينا S3 بالتفصيل. بس فيه حالات ما يحلها: تطبيق Windows يحتاج مجلد مشترك، أو خوادم في مكتبك تبي توصل للسحابة، أو شريك يرسل ملفاته عبر SFTP، أو بيانات ضخمة تحتاج تنقلها.

هذي خريطة الجزء:

تبي استخدم
نظام ملفات Windows أو أداء عالي جداً Amazon FSx
خوادم مكتبك توصل لتخزين السحابة Storage Gateway
نقل ومزامنة بيانات كبيرة بشكل مجدول DataSync
شركاء يرفعون ملفات عبر SFTP Transfer Family
نقل كميات هائلة فعلياً Data Transfer Terminal

Amazon FSx: أنظمة ملفات جاهزة

شفنا EFS لنظام ملفات Linux مشترك. FSx يشغّل لك أنظمة ملفات معروفة كخدمة مُدارة، فما تحتاج تديرها بنفسك:

النوع البروتوكول يناسب
FSx for Windows SMB تطبيقات Windows ومجلدات مشتركة، ومربوط بـ Active Directory
FSx for Lustre Lustre الحوسبة العالية وتدريب النماذج، ويتكامل مع S3، ولأجهزة Linux فقط
FSx for NetApp ONTAP NFS وSMB وiSCSI نقل أنظمة NetApp، وأنظمة تشغيل مختلفة على نفس البيانات
FSx for OpenZFS NFS أحمال Linux، ونقل أنظمة ZFS، ولقطات ونسخ فورية

واختيار FSx for Lustre فيه خيارين: Scratch رخيص وسريع لبيانات مؤقتة، بس البيانات ما لها نسخ، فلو تعطل قرص تضيع. وPersistent لبيانات طويلة المدى مع نسخ داخل منطقة التوفر.

Storage Gateway: مكتبك والسحابة

عندك خوادم في مكتبك وتبي تستفيد من السحابة، بدون تغيير التطبيقات؟ Storage Gateway برنامج تشغّله عندك كجهاز افتراضي، ويقدم تخزين عادي لتطبيقاتك، وبياناته فعلياً في AWS، مع كاش محلي للملفات الأخيرة.

مكتبك تطبيقاتك Gateway مع كاش محلي NFS أو SMB أو iSCSI أو أشرطة AWS S3 لقطات EBS Glacier
التطبيقات في مكتبك تشوف تخزين عادي عبر Gateway، وهو يحفظ البيانات في S3 أو لقطات EBS أو Glacier.
النوع تشوفه تطبيقاتك كـ وين البيانات مثال
S3 File Gateway مجلد NFS أو SMB كائنات في S3 مجلدات مشتركة ونسخ احتياطية للملفات
Volume Gateway قرص iSCSI S3 مع لقطات EBS أقراص لخوادم قائمة، بكاش أو نسخة كاملة محلية
Tape Gateway مكتبة أشرطة افتراضية S3 ثم Glacier برامج نسخ احتياطي تعتمد على الأشرطة

وفيه نوع رابع اسمه FSx File Gateway ما عاد متاح للعملاء الجدد، وAWS تنصح بالاتصال بـ FSx مباشرة.

نقل البيانات

DataSync

DataSync ينقل ويزامن بيانات كبيرة بشكل مجدول:

  • من وين وإلى وين: من خوادم NFS أو SMB أو HDFS أو تخزين كائني، إلى S3 أو EFS أو FSx، وبين خدمات AWS نفسها.
  • وكيل: تحتاج تشغّل وكيل (Agent) عندك للنقل من مكتبك، وما تحتاجه بين خدمات AWS.
  • ينقل اللي تغيّر فقط في كل تشغيل، ويحافظ على الصلاحيات والتواريخ، ويتحقق من سلامة البيانات.

Transfer Family

عندك شركاء أو أنظمة قديمة ترسل ملفات عبر SFTP أو FTPS أو FTP أو AS2، وما تبي تدير سيرفر لها؟ Transfer Family يعطيك نقطة استقبال مُدارة، والملفات تروح لـ S3 أو EFS. والمستخدمين من داخله، أو Active Directory، أو نظام هوية خاص فيك.

ولاحظ إن FTP غير مشفّر، فما يتوفر إلا داخل VPC. وتدفع بالساعة على كل نقطة، حتى بدون استخدام.

لما تكون البيانات أضخم من الإنترنت

قبل ما تختار طريقة النقل، احسب. هذي المدة النظرية بسرعة الخط كاملة، والواقع أبطأ:

الحجم 100 ميجابت 1 جيجابت 10 جيجابت
1 TB 22 ساعة ساعتين 13 دقيقة
10 TB 9 أيام 22 ساعة ساعتين
100 TB 93 يوم 9 أيام 22 ساعة
1 PB سنتين ونص 93 يوم 9 أيام

عندك هذي الخيارات للكميات الكبيرة:

  • DataSync لو خطك يتحمل، مع مزامنة مستمرة.
  • Direct Connect لو النقل كبير ومستمر، وشرحناه في الجزء الرابع عشر.
  • Data Transfer Terminal: مواقع فعلية تجيبها بأجهزة تخزينك، وتوصلها بشبكة AWS بسرعة عالية.

مقارنة خدمات التخزين

الخدمة النوع تناسب
S3 كائني ملفات وصور ونسخ احتياطية ومواقع ثابتة
S3 Glacier كائني للأرشيف بيانات نادراً ما تنطلب
EBS قرص شبكي قرص لسيرفر واحد وقواعد بيانات
Instance Store قرص محلي مؤقت أعلى سرعة لبيانات مؤقتة
EFS ملفات لـ Linux مجلد مشترك بين عدة سيرفرات
FSx for Windows ملفات SMB مجلدات مشتركة لتطبيقات Windows
FSx for Lustre ملفات عالية الأداء الحوسبة العالية وتدريب النماذج
FSx for ONTAP ملفات بعدة بروتوكولات نقل أنظمة NetApp
FSx for OpenZFS ملفات NFS أحمال Linux ونقل أنظمة ZFS
Storage Gateway جسر مكتبك يوصل لتخزين السحابة
DataSync نقل مزامنة مجدولة
Transfer Family نقل استقبال ملفات عبر SFTP وأخواته

عملي: مزامنة مع DataSync

بننقل ملفات بين حاويتين، وهذا ما يحتاج وكيل. من CloudShell، جهّز حاويتين وملفات:

Bash
SRC=series-src-$RANDOM$RANDOM
DST=series-dst-$RANDOM$RANDOM

aws s3 mb s3://$SRC
aws s3 mb s3://$DST

for i in 1 2 3; do
  echo "file $i" > file$i.txt
  aws s3 cp file$i.txt s3://$SRC/
done

echo "source: $SRC  destination: $DST"

افتح DataSync في الكونسول، واضغط Create task:

  1. المصدر: أنشئ موقع جديد من نوع S3، وحدد حاوية series-src-...، واختر إنشاء دور IAM تلقائياً.
  2. الوجهة: نفس الشي مع حاوية series-dst-....
  3. الإعدادات: سمّ المهمة series-sync، واختر Enhanced لو ظهر لك خيار الوضع، وخل الباقي على حاله.
  4. التشغيل: أنشئ المهمة، ثم اضغط Start.

لما تنتهي، تأكد من الوجهة:

Bash
aws s3 ls s3://$DST/

الحين أضف ملف واحد، وشغّل المهمة مرة ثانية:

Bash
echo "file 4" > file4.txt
aws s3 cp file4.txt s3://$SRC/

في صفحة التشغيل الجديد بتلقى ملف واحد انتقل، لأن DataSync ينقل اللي تغيّر فقط. وهذا اللي يفرق عن النسخ الكامل في كل مرة.

Bash
aws s3 rb s3://$SRC --force
aws s3 rb s3://$DST --force

الخلاصة

  • FSx أنظمة ملفات جاهزة: Windows وLustre وONTAP وOpenZFS.
  • Storage Gateway يخلي مكتبك يشوف السحابة كتخزين عادي.
  • DataSync للمزامنة المجدولة، وTransfer Family لاستقبال SFTP.
  • احسب مدة النقل قبل ما تقرر، وSnowball ما عاد متاح للجدد.

اختبر نفسك

قبل ما تكمل، جرّب هذي الأسئلة عشان تتأكد إنك فهمت الجزء. كل سؤال موقف عملي، وبعد ما تجاوب يطلع لك الشرح.

السؤال 1 من 5

شركة تنقل تطبيق Windows يحفظ ملفاته في مجلد SMB مشترك، والمستخدمين يدخلون عبر Active Directory. وتبي خدمة مُدارة بدون سيرفرات ملفات تشغلها. وش يناسب؟

اعرض الجواب

الجواب الصحيح: A

هذا يعطي تطبيقات Windows مجلد SMB حقيقي مرتبط بـ Active Directory، وAWS تشغله لك.

  • B: EFS نظام ملفات مشترك لـ Linux، عبر NFS.
  • C: هذا للحوسبة عالية الأداء، ويشتغل مع أجهزة Linux فقط.
  • D: S3 توصل له عبر API، وهو مو مجلد يفتحه التطبيق عبر SMB.

للمراجعة: Amazon FSx: أنظمة ملفات جاهزة في هذا الجزء، وWhat is FSx for Windows File Server? في وثائق AWS.

السؤال 2 من 5

فريق بحث يشغّل محاكاة ثلاثة أيام على مجموعة أجهزة Linux. تقرأ مدخلاتها من S3، وتحتاج سرعة نقل عالية جداً، وتحفظ نتائجها في S3، فلو تعطل نظام الملفات يعني بس إعادة تشغيل. أي خيار أقل تكلفة؟

اعرض الجواب

الجواب الصحيح: C

Lustre مبني لهذي السرعة ومتكامل مع S3، وScratch الخيار الرخيص للبيانات المؤقتة، لأن ما فيه شي هنا يعتمد على بقاء البيانات بعد العطل.

  • A: هذا لمجلدات SMB، مو لمجموعات Linux عالية الأداء.
  • B: هذا يناسب البيانات طويلة المدى، وبتدفع على نسخ ما يحتاجها الفريق.
  • D: هذا مجلد مشترك عام، وما هو مبني لهذا المستوى من الأداء.

للمراجعة: Amazon FSx: أنظمة ملفات جاهزة في هذا الجزء، وDeployment and storage class options for FSx for Lustre file systems في وثائق AWS.

السؤال 3 من 5

برنامج النسخ الاحتياطي في مستشفى يكتب على أشرطة فعلية، والموظفين ملّوا من تخزينها وشحنها. والمستشفى يبي النسخ في AWS، بدون تغيير برنامج النسخ. وش يناسب؟

اعرض الجواب

الجواب الصحيح: B

هذا يعرض مكتبة أشرطة افتراضية لبرنامج النسخ، والبيانات تروح لـ S3 ثم Glacier.

  • A: هذا يعرض للتطبيقات مجلد NFS أو SMB، وهذا البرنامج يكتب على أشرطة.
  • C: هذا يعرض للسيرفرات قرص iSCSI، مو مكتبة أشرطة.
  • D: هذا يستقبل ملفات عبر بروتوكولات مثل SFTP، وبرنامج الأشرطة ما يستخدمها.

للمراجعة: Storage Gateway: مكتبك والسحابة في هذا الجزء، وWhat is Tape Gateway? في وثائق AWS.

السؤال 4 من 5

عميل جديد في AWS عنده 100 تيرابايت على أجهزة تخزين خاصة فيه، ولازم توصل S3 خلال أسبوعين. وخطه الوحيد سرعته 100 ميجابت. وش يناسب؟

اعرض الجواب

الجواب الصحيح: D

الفريق ياخذ أجهزة تخزينه لموقع فعلي من AWS فيه اتصال عالي السرعة، ويرفع من هناك، فما يعود الخط البطيء مشكلة.

  • A: بالسرعة الكاملة، 100 تيرابايت على هذا الخط تاخذ حوالي 93 يوم.
  • B: هذا مقفل على العملاء الجدد.
  • C: تجهيزه ياخذ أسابيع وأحياناً أشهر، فممكن يفوت الموعد.

للمراجعة: لما تكون البيانات أضخم من الإنترنت في هذا الجزء، وWhat is Data Transfer Terminal? في وثائق AWS.

السؤال 5 من 5

شركة تترك مركز بياناتها. وسيرفر NFS حقها بحجم 30 تيرابايت لازم ينسخ إلى AWS ويبقى متزامن لين الانتقال، وشركاؤها يرسلون ملفات يومية عبر SFTP وما يقدرون يغيرون طريقتهم. أي خدمتين تناسب؟ (اختر اثنين.)

اعرض الجواب

الجواب الصحيح: B + E

DataSync ينسخ بيانات NFS، وفي كل تشغيل بعدها ينقل اللي تغيّر فقط. وTransfer Family يعطي الشركاء نقطة SFTP مُدارة، وملفاتهم تروح لـ S3 أو EFS.

  • A: هذا لبرامج النسخ الاحتياطي اللي تكتب على أشرطة.
  • C: هذا نظام ملفات عالي الأداء، وما ينقل البيانات من مركز البيانات.
  • D: هذا يعرض قرص iSCSI لسيرفرات الموقع، والشركة تترك موقعها.

للمراجعة: DataSync وTransfer Family في هذا الجزء، وHow AWS DataSync works وWhat is AWS Transfer Family? في وثائق AWS.

بهذا نكمل قسم التخزين. عندك الحين تطبيق قوي بقاعدة بيانات وشبكة وتخزين، بس كل أجزائه مربوطة ببعض مباشرة. في الجزء التاسع عشر نبدأ قسم التطبيقات الحديثة، ونفصل بينها بـ SQS وSNS وKinesis.