Ar-Rachîd tira une épée de sous son lit et ordonna qu’on lui tranche la tête avec. Puis il se mit à réciter un vers qui avait déjà été prononcé lors du meurtre d’Anas :
« Le sabre, avide de (rencontrer) Anas, s’est mis à frémir ;
L’épée observe tandis que le destin attend. »

On frappa donc le cou d’Anas, et la lame devança le sang. Ar-Rachîd dit alors : « Qu’Allah fasse miséricorde à ‘Abd Allâh ibn Mus‘ab. » Les gens affirmèrent que l’épée avait appartenu à az-Zubayr ibn al-‘Awwâm. Ensuite, on emplit les prisons de membres de la famille des Barmakides, on leur confisqua tous leurs biens et leur faste s’évanouit.

Or, le jour même où Ar-Rachîd fit tuer Ja‘far, au terme de la journée, en début de matinée il était encore parti à la chasse en sa compagnie. Il l’avait même reçu en privé, sans la présence de ses héritiers présomptifs, et l’avait parfumé de sa propre main avec du ghâliya. Puis, à l’heure du maghrib, Ar-Rachîd le salua, le serra contre lui et lui dit : « Si ce n’était la nuit que je veux consacrer à mes femmes, je ne te quitterais pas. Rentre chez toi, bois, réjouis-toi et vis dans l’aisance, jusqu’à être dans le même état de bien-être que moi, afin que nous goûtions tous deux à la félicité de la même façon. »

Ja‘far répondit : « Par Allah, ô Commandeur des Croyants, je ne souhaite cela qu’en ta présence. » Mais Ar-Rachîd reprit : « Non, rentre chez toi. » Ja‘far s’en alla. À peine un moment de la nuit s’était-il écoulé qu’on vint abattre sur lui le sort et la punition que l’on sait. C’était dans la nuit du samedi, la dernière nuit du mois de Muharram – d’autres disent la première nuit de Safar, cette même année –, alors que Ja‘far avait alors trente-sept ans.

Lorsque la nouvelle parvint à son père, Yahyâ ibn Khâlid, lui annonçant l’exécution de son fils, il dit : « Qu’Allah tue son fils ! » Et lorsqu’on l’informa que sa propre demeure avait été dévastée, il répondit : « Qu’Allah détruise les leurs ! » Il est rapporté que lorsque Yahyâ vit ses demeures mettre bas leurs tentures et leurs murs être violés, et constata qu’on pillait tout ce qui s’y trouvait, il s’exclama : « C’est ainsi que se produira l’Heure ! »

Il reçut alors une lettre de condoléances d’un de ses proches au sujet de ces événements, à laquelle il répondit : « Je suis satisfait du décret d’Allah et conscient que Sa décision est la meilleure. Allah ne punit les serviteurs qu’en raison de leurs péchés, et Il n’est point injuste envers Ses serviteurs. Mais ce que Dieu pardonne est plus grand encore. Louange à Allah ! »

Beaucoup de poètes composèrent des élégies à l’occasion de la mort des Barmakides. Parmi celles-ci, on attribue au Rakâchî (certains disent à Abû Nuwâs) les vers suivants :
« Nous voici désormais soulagés, et nos montures aussi ;
Celui qui prodiguait généreusement et celui qui sollicitait se sont tus.
Dis à nos bêtes de somme : vous n’avez plus à redouter les voyages nocturnes,
Ni l’obligation de franchir, plaine après plaine.
Dis aussi aux fatalités : vous avez triomphé de Ja‘far,
Mais jamais plus vous ne terrasserez un semblable seigneur.
Dis aux largesses : malgré votre abondance, interrompez-vous désormais,
Et dis aux épreuves : chaque jour, renouvelez-vous.
Désormais, voici une épée barmakide, forgée en Inde,
Qui fut atteinte par une épée hachémite, également d’Inde. »

Le Rakâchî, voyant Ja‘far attaché à un pieu, déclama :
« Par Allah, sans la crainte d’un rapporteur
Et de l’œil toujours ouvert du Calife,
Nous aurions tourné autour de ton tronc et l’aurions touché,
Comme les gens touchent la Pierre Noire lors du Pèlerinage.
Je n’ai jamais contemplé avant toi, ô fils de Yahyâ,
Une lame qu’un sabre tranchant ait finie par émousser. »