ورود

View Full Version : سوال: مشاوره جهت یک سیستم دخیره ساز پر سرعت



ferodo
چهارشنبه 05 شهریور 1393, 02:09 صبح
سلام
امیدوارم این مکان جای پرسیدن سوالم باشه چون جای مناسبی دیگه ای پیدا نکردم.
نیاز به یک سیستم جهت واکشی اطلاعات با سرعت بالا داریم.
چند مدت هست که تحقیقات کردیم از پایگاه داده ای رابطه ای تا غیر رابطه ای و سیتم های کش کننده.
لطفا راهنمایی بفرمایید.
برای یک سازمان با
*************
حجم اطلاعاتی در حدود 20.000 رکورد که البته در همین رنج تا 2 سال دیگه میمونه.
کلید اونها عدد هستند.
و ارزش اونها یک عدد دیگه ای هست.(یعنی 2تا فیلد داریم)
مثلا:
key:542 value:173245
*************
*************
و تعداد کانکشن همزمان 20.000 تا 25.000 در ثانیه!! بیشتر وقت ها کمتر از این رنج اما تا این مرحله همین الان هم هست(البته با هزار و یک بدبختی و وسله پینه کردن).
هر کانکشن 1 کاربر هست که شاید هم برای هر ارسال کاربر نیاز به گرفتن ارزش 2 الی 3 کلید باشد.
*************
*************
سرعت فوق العاده مهم هست سرعت ملاک انتخاب ماست.
*************
اطلاعات هر 15 دقیقه ویرایش یا حذف یا اذافه میشه در یک حجم حدود حداکثر 1500 رکورد.
*************
همون طور که گفتم درخواست بالاست در هر ثانیه و سرعت رسیدن به اون ها مهم هست چیزی هم که رد و بدل میشه عدد هست.
خوب با توجه به تحقیقاتی که کردیم دیدیم سیستم های مختلفی و همچنین روش های مختلفی وجود داره.
سرور همیشه روشن هست شاید یک رکورد تا یک سال هم تکون نخوره البته بیشتر رکوردها طول عمر حداکثر 1 ماهه دارن.
یکی از روش هایی فکر میکن میتونه خوب باشه استفاده از یک پایگاه داده جهت ذخیره داده ها هست یا استفاده از xml و جهت سرعت هم ذخیره در رم.
البته بیشتر هدف ما این هست که از xml استفاده کنیم چرا که سیستم ما تقریبا به 100 قسمت تبدیل میشه و هر وقت که نیاز شد میشه از اون قسمت راحت اطلاعات را برداشت چون در 100 ساب فولدر قرار داره .
یا استفاده از یک سیستم دخیره ساز nosql راه چاره هست.
لطفا راهنمایی کنید چه راهکاری و سیستمی رو پیشنهاد میکنید از نظر یادگیری و سخت بودن پیکربندی مشکلی نداریم.

محسن=0
چهارشنبه 05 شهریور 1393, 08:31 صبح
تا چند میخوای هزینه کنی؟

ferodo
چهارشنبه 05 شهریور 1393, 09:38 صبح
تا چند میخوای هزینه کنی؟

سلام
منظور شما رو متوجه نشدم!
در حال حاظر چند سرور داریم که با یکسری بدبختی اطلاعات رو رد و بدل میکنیم این اطلاعات فقط مخصوص اعضا هست و این سامانه فقط برا همون سازمان هست و برای عام نیست
لطفا راهنمایی بفرمایید از چه سیستم ذخیره سازی استفاده کنیم تا اونجایی که من میدونم mongodb و rocksdb سرعت بالایی دارن
و همچنین میتونم از memcached و redis استفاده کنم
اگر منظور شما از هزینه قیمت سخت افزار مورد نظر باشه خوب:
برای رسیدن به این سرعت قاعدتا بایستی سخت افزار قوی هم استفاده بشه سی پی یو قوی یا چند پردازشگر و شاید هم حجم رم نسبتا بالا
دوستان اگر داکیومنت یا سایتی یا مرجعی جهت راهنمای و یک انتخاب درست نسبت به این کار میشناسید،راهنمایی بفرمایید.
یک نکته کوچیک هم بگم توی یادگیری و کار مشکلی نیست ولی سیتمی رو معرفی بکنید که اگر فردا روز تعداد رکوردها به 50.000 یا بیشتر رسید باز نیاز نباشه کوچ کنم به یک سیستم جدید و شروع به یادگیری یکسری دستورات و پیکربندی، در ضمن از php استفاده می کنیم.

ferodo
یک شنبه 09 شهریور 1393, 14:50 عصر
سلام
هیچ نظر یا راهنمایی نیست؟
فقط مشکل ما در تعداد درخواست های همزمان هست .
از نظر بودجه و سخت افزار مشکلی نداریم فقط توان پاسخگویی به این تعداد درخواست در 1 ثانیه
البته چشم پوشی میکنیم از مشکلات یا سرعت باگزاری و حجم صفحه و.. یعنی توان دیتا بیس در این حد باشه
چون دیتابیسی یا سیستم کشی را نمی شناسیم که بتونه همزمان این تعداد درخواست را همزان ساپرت کنه با مصرف بهینه از سخت افزار یا به عبارتی مختص کار ما چون دیتابیس هاه و سیستم های کشینگ رو میشه شخصی سازی کرد اما شناخت کافی نداریم لطفا راهنمایی کنید.