Sejak Umar bin Khaththab ditikam oleh Abu Lu’lu’ah (Fairuz) kaum Muslimin dicekam oleh rasa ketakutan, khawatir akan nasib mereka sendiri kelak. Terpikir oleh mereka siapa yang akan menggantikannya jika dengan takdir Allah, Umar meninggal. Beberapa orang ada yang membicarakan masalah ini kepadanya. Mereka meminta Khalifah mencalonkan pengganti. Pada mulanya Umar bin Khaththab ragu, dan ia berkata: “Kalaupun saya menunjuk seorang pengganti, karena dulu orang yang lebih baik dari saya juga menunjuk pengganti, atau kalaupun saya biarkan, karena dulu orang yang lebih baik dari saya juga membiarkan.” Tetapi sudah dipikirkan matang-matang, bahwa kalau dibiarkan begitu saja ia khawatir keadaan akan menjadi kacau. Dalam berperang dengan Persia dan Rumawi semua orang Arab sudah ikut serta sehingga setiap kabilah mengaku dirinya seperti kaum Muhajirin dan Anshar, berhak memilih khalifah. Malah di antara mereka ada yang mengaku  berhak mencalonkan pemimpinnya sebagai khalifah. Jika Umar bin Khaththab tidak memberikan pendapat, pengakuan seperti itu akan sangat membahayakan kedaulatan yang baru tumbuh itu.             Karenanya, ia membentuk Majlis Syura’ yang terdiri dari enam orang dengan tugas memilih di antara mereka seorang khalifah sesudahnya. Keenam orang itu Utsman bin Affan, Ali bin Abi Thalib, Zubair bin Awwam, Thalhah bin Ubaidillah, Abdur-Rahman bin Auf dan Sa’d bin Abi Waqqas. Setelah menyebutkan nama-nama itu Umar berkata:”Tak ada orang yang lebih berhak dalam hal ini daripada mereka itu; Rasulullah Saw. wafat sesudah merasa puas terhadap mereka. Siapa pun yang terpilih dialah khalifah sesudah saya.” Kata Kunci Majlis Syura’, Khalifah, Kekuasaan.