Dibawah kepemimpinan Abu Ubaidah bin Jarrah pasukan muslimin terus mengadakan perluasan wilayah Islam. Dalam masa kepemimpinannya strategi Umar bin Khattab lebih menitikberatkan pada perluasan wilayah yang juga meneruskan perjuangkan Khalifah sebelumnya yaitu Abu Bakar. Kekuasaan Islam terbentang dari Tripoli di barat sampai ke Persia dan dalam waktu 10 tahun daerah yang dikuasai umat Islam sangat pesat.
Selain memperluas wilayah Islam, pada masa kepemimpinannya, Umar bin Khattab juga melakukan berbagai macam penataan struktur pemerintahan, antara lain :