Teladan Rasulullah dalam mengajak untuk bersatu ini terus dilanjutkan oleh para sahabat setelah ia wafat. Para sahabat selalu berupaya untuk terus mempertahankan persatuan yang telah diwariskan oleh baginda nabi. Di antara contohnya adalah sebagaimana yang dilakukan oleh sahabat Abdullah bin Mas’ud sebagaimana diceritakan dalam kitab al–Mu’jam al-Kabir, bahwa dalam suatu kesempatan, ia berkhutbah di hadapan para sahabat yang lainnya untuk terus memperjuangkan persatuan dan kesatuan. Beliau bersabda:
خَطَبَنَا عَبْدُ الله يَوْمًا خُطْبَةً لَمْ يَخْطُبْنَا مِثْلَهَا قَبْلَهَا وَلَا بَعْدَهَا، قَالَ: أَيُّهَا النَّاسُ أتَّقُوْا اللهَ وَعَلَيْكُمْ بِالطَّاعَةِ وَالْجَمَاعَةِ، فَإِنَّهَا حَبْلُ اللهِ الَّذِي
Artinya, “Abdullah bin Mas’ud telah berkhutbah kepada kami di suatu hari, dengan khutbah yang tidak pernah disampaikan sebelumnya atau sesudahnya. Ia berkata: Wahai manusia! Bertakwalah kalian semua kepada Allah, dan berpegangteguhlah dengan ketaatan dan persatuan, karena persatuan itu adalah tali Allah yang telah Dia perintahkan. Sungguh, apa yang dibenci dalam ketaatan dan persatuan, lebih baik dari apa yang disenangi dalam perpecahan.”
