خدمات تخزين ونقل إضافية
أنظمة الملفات الجاهزة في FSx، وربط مكتبك بتخزين السحابة عبر Storage Gateway، ونقل البيانات بـ DataSync وTransfer Family، ووش تسوي لو بياناتك أضخم من الإنترنت، مع مقارنة شاملة لخدمات التخزين.
- الفكرة الأساسية
- تعريف
- متى يُستخدم
- تنبيه
في هذا المقال
في الأجزاء السابقة غطينا S3 بالتفصيل. بس فيه حالات ما يحلها: تطبيق Windows يحتاج مجلد مشترك، أو خوادم في مكتبك تبي توصل للسحابة، أو شريك يرسل ملفاته عبر SFTP، أو بيانات ضخمة تحتاج تنقلها.
هذي خريطة الجزء:
| تبي | استخدم |
|---|---|
| نظام ملفات Windows أو أداء عالي جداً | Amazon FSx |
| خوادم مكتبك توصل لتخزين السحابة | Storage Gateway |
| نقل ومزامنة بيانات كبيرة بشكل مجدول | DataSync |
| شركاء يرفعون ملفات عبر SFTP | Transfer Family |
| نقل كميات هائلة فعلياً | Data Transfer Terminal |
Amazon FSx: أنظمة ملفات جاهزة
شفنا EFS لنظام ملفات Linux مشترك. FSx يشغّل لك أنظمة ملفات معروفة كخدمة مُدارة، فما تحتاج تديرها بنفسك:
| النوع | البروتوكول | يناسب |
|---|---|---|
| FSx for Windows | SMB | تطبيقات Windows ومجلدات مشتركة، ومربوط بـ Active Directory |
| FSx for Lustre | Lustre | الحوسبة العالية وتدريب النماذج، ويتكامل مع S3، ولأجهزة Linux فقط |
| FSx for NetApp ONTAP | NFS وSMB وiSCSI | نقل أنظمة NetApp، وأنظمة تشغيل مختلفة على نفس البيانات |
| FSx for OpenZFS | NFS | أحمال Linux، ونقل أنظمة ZFS، ولقطات ونسخ فورية |
واختيار FSx for Lustre فيه خيارين: Scratch رخيص وسريع لبيانات مؤقتة، بس البيانات ما لها نسخ، فلو تعطل قرص تضيع. وPersistent لبيانات طويلة المدى مع نسخ داخل منطقة التوفر.
Storage Gateway: مكتبك والسحابة
عندك خوادم في مكتبك وتبي تستفيد من السحابة، بدون تغيير التطبيقات؟ Storage Gateway برنامج تشغّله عندك كجهاز افتراضي، ويقدم تخزين عادي لتطبيقاتك، وبياناته فعلياً في AWS، مع كاش محلي للملفات الأخيرة.
| النوع | تشوفه تطبيقاتك كـ | وين البيانات | مثال |
|---|---|---|---|
| S3 File Gateway | مجلد NFS أو SMB | كائنات في S3 | مجلدات مشتركة ونسخ احتياطية للملفات |
| Volume Gateway | قرص iSCSI | S3 مع لقطات EBS | أقراص لخوادم قائمة، بكاش أو نسخة كاملة محلية |
| Tape Gateway | مكتبة أشرطة افتراضية | S3 ثم Glacier | برامج نسخ احتياطي تعتمد على الأشرطة |
وفيه نوع رابع اسمه FSx File Gateway ما عاد متاح للعملاء الجدد، وAWS تنصح بالاتصال بـ FSx مباشرة.
نقل البيانات
DataSync
DataSync ينقل ويزامن بيانات كبيرة بشكل مجدول:
- من وين وإلى وين: من خوادم NFS أو SMB أو HDFS أو تخزين كائني، إلى S3 أو EFS أو FSx، وبين خدمات AWS نفسها.
- وكيل: تحتاج تشغّل وكيل (Agent) عندك للنقل من مكتبك، وما تحتاجه بين خدمات AWS.
- ينقل اللي تغيّر فقط في كل تشغيل، ويحافظ على الصلاحيات والتواريخ، ويتحقق من سلامة البيانات.
Transfer Family
عندك شركاء أو أنظمة قديمة ترسل ملفات عبر SFTP أو FTPS أو FTP أو AS2، وما تبي تدير سيرفر لها؟ Transfer Family يعطيك نقطة استقبال مُدارة، والملفات تروح لـ S3 أو EFS. والمستخدمين من داخله، أو Active Directory، أو نظام هوية خاص فيك.
ولاحظ إن FTP غير مشفّر، فما يتوفر إلا داخل VPC. وتدفع بالساعة على كل نقطة، حتى بدون استخدام.
لما تكون البيانات أضخم من الإنترنت
قبل ما تختار طريقة النقل، احسب. هذي المدة النظرية بسرعة الخط كاملة، والواقع أبطأ:
| الحجم | 100 ميجابت | 1 جيجابت | 10 جيجابت |
|---|---|---|---|
| 1 TB | 22 ساعة | ساعتين | 13 دقيقة |
| 10 TB | 9 أيام | 22 ساعة | ساعتين |
| 100 TB | 93 يوم | 9 أيام | 22 ساعة |
| 1 PB | سنتين ونص | 93 يوم | 9 أيام |
عندك هذي الخيارات للكميات الكبيرة:
- DataSync لو خطك يتحمل، مع مزامنة مستمرة.
- Direct Connect لو النقل كبير ومستمر، وشرحناه في الجزء الرابع عشر.
- Data Transfer Terminal: مواقع فعلية تجيبها بأجهزة تخزينك، وتوصلها بشبكة AWS بسرعة عالية.
مقارنة خدمات التخزين
| الخدمة | النوع | تناسب |
|---|---|---|
| S3 | كائني | ملفات وصور ونسخ احتياطية ومواقع ثابتة |
| S3 Glacier | كائني للأرشيف | بيانات نادراً ما تنطلب |
| EBS | قرص شبكي | قرص لسيرفر واحد وقواعد بيانات |
| Instance Store | قرص محلي مؤقت | أعلى سرعة لبيانات مؤقتة |
| EFS | ملفات لـ Linux | مجلد مشترك بين عدة سيرفرات |
| FSx for Windows | ملفات SMB | مجلدات مشتركة لتطبيقات Windows |
| FSx for Lustre | ملفات عالية الأداء | الحوسبة العالية وتدريب النماذج |
| FSx for ONTAP | ملفات بعدة بروتوكولات | نقل أنظمة NetApp |
| FSx for OpenZFS | ملفات NFS | أحمال Linux ونقل أنظمة ZFS |
| Storage Gateway | جسر | مكتبك يوصل لتخزين السحابة |
| DataSync | نقل | مزامنة مجدولة |
| Transfer Family | نقل | استقبال ملفات عبر SFTP وأخواته |
عملي: مزامنة مع DataSync
بننقل ملفات بين حاويتين، وهذا ما يحتاج وكيل. من CloudShell، جهّز حاويتين وملفات:
SRC=series-src-$RANDOM$RANDOM
DST=series-dst-$RANDOM$RANDOM
aws s3 mb s3://$SRC
aws s3 mb s3://$DST
for i in 1 2 3; do
echo "file $i" > file$i.txt
aws s3 cp file$i.txt s3://$SRC/
done
echo "source: $SRC destination: $DST"
افتح DataSync في الكونسول، واضغط Create task:
- المصدر: أنشئ موقع جديد من نوع S3، وحدد حاوية
series-src-...، واختر إنشاء دور IAM تلقائياً. - الوجهة: نفس الشي مع حاوية
series-dst-.... - الإعدادات: سمّ المهمة
series-sync، واختر Enhanced لو ظهر لك خيار الوضع، وخل الباقي على حاله. - التشغيل: أنشئ المهمة، ثم اضغط Start.
لما تنتهي، تأكد من الوجهة:
aws s3 ls s3://$DST/
الحين أضف ملف واحد، وشغّل المهمة مرة ثانية:
echo "file 4" > file4.txt
aws s3 cp file4.txt s3://$SRC/
في صفحة التشغيل الجديد بتلقى ملف واحد انتقل، لأن DataSync ينقل اللي تغيّر فقط. وهذا اللي يفرق عن النسخ الكامل في كل مرة.
aws s3 rb s3://$SRC --force
aws s3 rb s3://$DST --force
الخلاصة
- FSx أنظمة ملفات جاهزة: Windows وLustre وONTAP وOpenZFS.
- Storage Gateway يخلي مكتبك يشوف السحابة كتخزين عادي.
- DataSync للمزامنة المجدولة، وTransfer Family لاستقبال SFTP.
- احسب مدة النقل قبل ما تقرر، وSnowball ما عاد متاح للجدد.
اختبر نفسك
قبل ما تكمل، جرّب هذي الأسئلة عشان تتأكد إنك فهمت الجزء. كل سؤال موقف عملي، وبعد ما تجاوب يطلع لك الشرح.
السؤال 1 من 5
شركة تنقل تطبيق Windows يحفظ ملفاته في مجلد SMB مشترك، والمستخدمين يدخلون عبر Active Directory. وتبي خدمة مُدارة بدون سيرفرات ملفات تشغلها. وش يناسب؟
اعرض الجواب
الجواب الصحيح: A
هذا يعطي تطبيقات Windows مجلد SMB حقيقي مرتبط بـ Active Directory، وAWS تشغله لك.
- B: EFS نظام ملفات مشترك لـ Linux، عبر NFS.
- C: هذا للحوسبة عالية الأداء، ويشتغل مع أجهزة Linux فقط.
- D: S3 توصل له عبر API، وهو مو مجلد يفتحه التطبيق عبر SMB.
للمراجعة: Amazon FSx: أنظمة ملفات جاهزة في هذا الجزء، وWhat is FSx for Windows File Server? في وثائق AWS.
السؤال 2 من 5
فريق بحث يشغّل محاكاة ثلاثة أيام على مجموعة أجهزة Linux. تقرأ مدخلاتها من S3، وتحتاج سرعة نقل عالية جداً، وتحفظ نتائجها في S3، فلو تعطل نظام الملفات يعني بس إعادة تشغيل. أي خيار أقل تكلفة؟
اعرض الجواب
الجواب الصحيح: C
Lustre مبني لهذي السرعة ومتكامل مع S3، وScratch الخيار الرخيص للبيانات المؤقتة، لأن ما فيه شي هنا يعتمد على بقاء البيانات بعد العطل.
- A: هذا لمجلدات SMB، مو لمجموعات Linux عالية الأداء.
- B: هذا يناسب البيانات طويلة المدى، وبتدفع على نسخ ما يحتاجها الفريق.
- D: هذا مجلد مشترك عام، وما هو مبني لهذا المستوى من الأداء.
للمراجعة: Amazon FSx: أنظمة ملفات جاهزة في هذا الجزء، وDeployment and storage class options for FSx for Lustre file systems في وثائق AWS.
السؤال 3 من 5
برنامج النسخ الاحتياطي في مستشفى يكتب على أشرطة فعلية، والموظفين ملّوا من تخزينها وشحنها. والمستشفى يبي النسخ في AWS، بدون تغيير برنامج النسخ. وش يناسب؟
اعرض الجواب
الجواب الصحيح: B
هذا يعرض مكتبة أشرطة افتراضية لبرنامج النسخ، والبيانات تروح لـ S3 ثم Glacier.
- A: هذا يعرض للتطبيقات مجلد NFS أو SMB، وهذا البرنامج يكتب على أشرطة.
- C: هذا يعرض للسيرفرات قرص iSCSI، مو مكتبة أشرطة.
- D: هذا يستقبل ملفات عبر بروتوكولات مثل SFTP، وبرنامج الأشرطة ما يستخدمها.
للمراجعة: Storage Gateway: مكتبك والسحابة في هذا الجزء، وWhat is Tape Gateway? في وثائق AWS.
السؤال 4 من 5
عميل جديد في AWS عنده 100 تيرابايت على أجهزة تخزين خاصة فيه، ولازم توصل S3 خلال أسبوعين. وخطه الوحيد سرعته 100 ميجابت. وش يناسب؟
اعرض الجواب
الجواب الصحيح: D
الفريق ياخذ أجهزة تخزينه لموقع فعلي من AWS فيه اتصال عالي السرعة، ويرفع من هناك، فما يعود الخط البطيء مشكلة.
- A: بالسرعة الكاملة، 100 تيرابايت على هذا الخط تاخذ حوالي 93 يوم.
- B: هذا مقفل على العملاء الجدد.
- C: تجهيزه ياخذ أسابيع وأحياناً أشهر، فممكن يفوت الموعد.
للمراجعة: لما تكون البيانات أضخم من الإنترنت في هذا الجزء، وWhat is Data Transfer Terminal? في وثائق AWS.
السؤال 5 من 5
شركة تترك مركز بياناتها. وسيرفر NFS حقها بحجم 30 تيرابايت لازم ينسخ إلى AWS ويبقى متزامن لين الانتقال، وشركاؤها يرسلون ملفات يومية عبر SFTP وما يقدرون يغيرون طريقتهم. أي خدمتين تناسب؟ (اختر اثنين.)
اعرض الجواب
الجواب الصحيح: B + E
DataSync ينسخ بيانات NFS، وفي كل تشغيل بعدها ينقل اللي تغيّر فقط. وTransfer Family يعطي الشركاء نقطة SFTP مُدارة، وملفاتهم تروح لـ S3 أو EFS.
- A: هذا لبرامج النسخ الاحتياطي اللي تكتب على أشرطة.
- C: هذا نظام ملفات عالي الأداء، وما ينقل البيانات من مركز البيانات.
- D: هذا يعرض قرص iSCSI لسيرفرات الموقع، والشركة تترك موقعها.
للمراجعة: DataSync وTransfer Family في هذا الجزء، وHow AWS DataSync works وWhat is AWS Transfer Family? في وثائق AWS.
بهذا نكمل قسم التخزين. عندك الحين تطبيق قوي بقاعدة بيانات وشبكة وتخزين، بس كل أجزائه مربوطة ببعض مباشرة. في الجزء التاسع عشر نبدأ قسم التطبيقات الحديثة، ونفصل بينها بـ SQS وSNS وKinesis.