Bizanslıların elinde bulunan ve zabt edilemez denilen Ani Kalesini alan Sultan Alparslan daha sonra Gürcistan,Ermenistan ve Kars’ı ele geçirdi. Bu sırada Karahanlı ve Hazneliler ile dostluğunu ilerletti. Fakat Alparslan’ın gözü Bizans İmparatorluğundaydı. Sebebi ise bizanslılar’ın Müslüman topraklarına büyük rahatsızlıklar vermesiydi.
Anadolu’ya akınlarak düzenleyerek maddi ve manevi kuvvetlerini azaltarak fetih için ortam hazırladı. Ordusuyla 1071 Nisan ayında halep’i teslim aldı. Bunu fırsat bilen Bizans İmparatorluğu iki yüz bin kişilik ordusu ile Doğu Anadolu’ya doğru yola çıktı. Bizans İmparatorluğu’nun amacı Sultan Alparslan’ın halep’te olduğu sırada kuzeyden çevirme yaparak Türk Ordusu’nu gafil avlamaktır.
Bizans Ordusunun Doğu Anadoluya doğru ilerlediğini duyan Alparslan, Urfa, Diyarbakır, Bitlis’ten geçerek Ahlata gelir. Bu kadar hızlı bir şekilde Türk Ordusu’nun gelmesine kızan Bizans İmparatoru Diyojen (Romanos Diogones) Malazgirt Kalesi’ni işgal ederek kale içerisindekileri kılıçtan geçirir.
Sultan Alparslan 24 Ağustos 1071 tarihinde Malazgirt’in doğusunda bulunan Rahva Ovası’nda ordusunu hazırladı. Bu sırada Türk Ordusu’nda bulunan asker sayısı kırk bin civarındadır.
