كان الجيش المغولي هائلا يبلغ حوالي 200 ألف مقاتل مزودين بآلات الحصار، ولم تكن عاصمة الخلافة العباسية تملك من القوات ما يمكنها من دفع الحصار ودفع المغول إلى الوراء، في الوقت الذي كان يظن فيه هولاكو أن ببغداد جيشا كبيرا، ثم تكشفت له الحقيقة حين اشتد الحصار، ونجحت قواته في اختراق سور بغداد من الجانب الشرقي، وأصبحت العاصمة تحت رحمتهم.
أحس الخليفة بالخطر، وأن الأمر قد خرج من يديه؛ فسعى في التوصل إلى حل سلمي مع هولاكو، لكن جهوده باءت بالفشل؛ فاضطر إلى الخروج من بغداد وتسليم نفسه وعاصمة الخلافة إلى هولاكو دون قيد أو شرط، وذلك في يوم الأحد الموافق 10 فبراير 1258م ومعه أهله وولده بعد أن وعده هولاكو بالأمان.
كان برفقه الخليفة حين خرج 3 آلاف شخص من أعيان بغداد وعلمائها وكبار رجالها، فلما وصلوا إلى معسكر المغول أمر هولاكو بوضعهم في مكان خاص، وأخذ يلاطف الخليفة العباسي، وطلب منه أن ينادي في الناس بإلقاء أسلحتهم والخروج من المدينة لإحصائهم، فأرسل الخليفة رسولا من قبله ينادي في الناس بأن يلقوا سلاحهم ويخرجوا من الأسوار، وما إن فعلوا ذلك حتى انقض عليهم المغول وقتلوهم جميعا،ودخل المغول بغداد وفتكوا بأهلها دون تفرقة بين رجال ونساء وأطفال، ولم يسلم من الموت إلا قليل، ثم قاموا بتخريب المساجد ليحصلوا على ذهب قبابها، وهدموا القصور بعد أن سلبوا ما فيها من تحف ومشغولات قيمة، وأتلفوا عددا كبيرا من الكتب القيمة، وأهلكوا كثيرا من أهل العلم فيها.
استمر هذا الوضع نحو أربعين يوما، وكلما مشطوا منطقة أشعلوا فيها النيران، فكانت تلتهم كل ما يصادفها، وخربت أكثر الأبنية وجامع الخليفة، ومشهد الإمام موسى الكاظم، وغيرها من البنايات التي كانت آية من آيات الفن الإسلامي،وبالغ المؤرخون في عدد ضحايا الغزو المغولي حين دخلوا بغداد، فقدرهم بعض المؤرخين بمليون وثمانمائة ألف نسمة، على حين قدرهم آخرون بمليون نسمة.
في اليوم التاسع من صفر دخل هولاكو بغداد مع حاشيته يصحبهم الخليفة العباسي، واستولى على ما في قصر الخلافة من أموال وكنوز، وكانت الجيوش المغولية أبقت على قصر الخلافة دون أن تمسه بسوء، ولم يكتف هولاكو بما فعله جنوده من جرائم وفظائع في العاصمة التليدة التي كانت قبلة الدنيا وزهرة المدائن ومدينه النور، وإنما ختم أعماله الهمجية بقتل الخليفة المستعصم بالله ومعه ولده الأكبر وخمسه من رجاله المخلصين الذين بقوا معه ولم يتركوه في هذه المحنة الشديدة،بمقتل الخليفة العباسي في 20 من فبراير 1258م، تكون قد انتهت دولة الخلافة العباسية التي حكمت العالم الإسلامي خمسة قرون من العاصمة بغداد.