Rabbi Jakob Emden wurde im Sommer 1697 in Altona (in der Nähe von Hamburg) geboren. Sein Vater, Rabbi Zwi Aschkenasi (bekannt als Chacham Zwi), war zu dieser Zeit Oberrabbiner der drei Schwesterstädte Altona, Hamburg und Wandsbeck (in der jüdischen Geschichte als „Kehiloth AHU” bekannt, nach den hebräischen Anfangsbuchstaben der Gemeinden).

Der eigentliche Name von Rabbi Jakob Emden war Aschkenasi, aber er wurde nach der Stadt Emden genannt, in der er als Rabbiner tätig war. Er ist auch unter dem Namen Jabetz bekannt, den Initialen der Worte Jakob Ben Zwi.

Der erste Lehrer des jungen Jakob war sein eigener berühmter Vater, der zu seiner Zeit ein bekannter Talmudist und Rabbiner war. Von seinem Vater erbte Jakob ein hitziges Gemüt und eine heftige Ablehnung der Bewegung des falschen „Moschiach” Schabbtai Zwi. Obwohl sich diese Bewegung „längst als falsch und irreführend erwiesen hatte, gab es immer noch geheime Anhänger. Wie sein Vater war er entschlossen, sie aufzuspüren und um jeden Preis bloßzustellen.

Bis zum Alter von achtzehn Jahren folgte Rabbi Jakob seinem Vater überallhin, als dieser sich in Amsterdam und später in Lemberg niederließ. Dann verließ er ihn, um die Tochter eines berühmten Talmudisten, Rabbi Mordecai ben Naftali Hakohen, zu heiraten, der das Oberhaupt einer großen Jeschiwa in Ungarisch-Brod in Mähren war. Dort erweiterte er seine Kenntnisse der Tora beträchtlich, indem er den größten Teil seiner Zeit dem fleißigen Studium widmete. In seiner Freizeit beschäftigte er sich außerdem mit Sprachen, Grammatik und Philosophie.

Nach drei Jahren intensiven Studiums verließ er das Haus seines Schwiegervaters und die Jeschiwa in Brod und wurde Vertreter für Schmuckwaren. Er wollte nicht unbedingt ein bezahlter Rabbiner werden. Dennoch vernachlässigte er auch während seiner Reisen nie seine Studien, und wo immer er hinkam, predigte er und rügte jüdische Gemeinden und Anführer, wenn er mit ihrem religiösen Verhalten nicht zufrieden war.

Im Jahr 1728 nahm er den Ruf der jüdischen Gemeinde in Emden an, die vakante Rabbinerstelle in dieser Stadt zu besetzen. Er hielt die Stelle vier Jahre lang inne, während derer er ständig mit all denen im Streit lag, die nicht seinen Erwartungen entsprachen. Schließlich gab er die Position auf und kehrte 1733 in seine Heimatstadt Altona zurück. Hier verbrachte er den Rest seines Lebens, mehr als vierzig Jahre unermüdlichen Kampfes für seine Überzeugungen, die ihn in Konflikt mit den führenden Rabbinern seiner Zeit brachten.

Bei seiner Ankunft in Altona wurde ihm erlaubt, eine eigene Synagoge zu errichten. Er gründete auch eine Druckerei, für die er die Genehmigung des Königs erhalten hatte. Außerdem führte er ein florierendes Geschäft mit Edelsteinen.

Bald druckte Rabbi Jakob Emden ein Gebetbuch mit Kommentaren, das wegen seiner radikalen Änderungen auf großen Widerstand stieß. Rabbi Emden lebte nicht im Frieden mit den beiden führenden Rabbinern seiner Gemeinde, Rabbi Mosche Chagis, dem Oberhaupt der reichen portugiesischen Gemeinde, und Rabbi Jehezkel Katzenellenbogen, dem Oberrabbiner der Dreifachgemeinde, dem Posten, den zuvor Rabbi Emdens Vater innegehabt hatte. Er kritisierte oft die Rechtsentscheidungen des Letzteren, ungeachtet seines Alters und seiner Position, denn wenn Rabbi Jakob Emden sich im Recht sah, respektierte er niemanden, der anderer Meinung war. 16 Jahre lang war er ein erbitterter Gegner des Oberrabbiners, bis dieser 1749 starb und Rabbi Jonathan Eybeschutz von Metz sein Nachfolger wurde.

Rabbi Jakob Emden verdächtigte den neuen Oberrabbiner, ein heimlicher Anhänger der Schabbtai Zwi-Bewegung zu sein. Er prangerte ihn öffentlich an und forderte seine Exkommunikation.

Die Anführer der Gemeinde verteidigten ihren Rabbi, der als außergewöhnlich frommer Mann und herausragender Gelehrter bekannt war. Sie erklärten, dass Rabbi Emden ein Unruhestifter sei, und forderten ihn auf, die Gemeinde zu verlassen. Er weigerte sich, bis ihm Gewalt angedroht wurde. Daraufhin floh er nach Hamburg und wandte sich an König Friedrich von Dänemark, dem die Provinz unterstand. Im Juni 1752 wurde das Urteil zugunsten von „Jakob Herschel” (Jakob, Sohn des Hersch- Tzevi), wie Rabbi Emden in den offiziellen Dokumenten genannt wurde, gefällt. Der jüdische Gemeindevorstand wurde für die eigenmächtige Vertreibung von Rabbi Emden verantwortlich gemacht und die Anführer wurden zu einer Geldstrafe verurteilt. Rabbi Emden durfte nach Altona zurückkehren, wo er seine Angriffe gegen Rabbi Jonathan Eybeschutz fortsetzte. Schließlich war auch der König überzeugt, dass Rabbi Emden im Unrecht war, und befahl ihm, seine Angriffe einzustellen. Der hitzige Konflikt war damit beendet, doch nicht, bevor er sich weit und breit ausgebreitet hatte und das Judentum lange Zeit in Aufregung versetzte. Es herrschte allgemein Einigkeit darüber, dass Rabbi Jakob Emden zwar gute Motive hatte, das Judentum gegen eine seiner Meinung nach große Gefahr zu verteidigen, dass er jedoch von seinem Eifer geblendet war und sein hitziges Wesen die Oberhand über ihn gewann.

Über die große Gelehrsamkeit des Rabbiners Jakob Emden herrschte jedoch Einigkeit. Er galt als Autorität auf dem Gebiet des jüdischen Rechts und hatte großen Einfluss in Regierungskreisen. So wurde er 1772 gebeten, der jüdischen Gemeinde von Mecklenburg-Schwerin in ihrem Kampf um das Recht zu helfen, die Toten bald nach dem Tod zu begraben, wie es das jüdische Gesetz verlangt, das eine Verzögerung der Beerdigung als entwürdigend für die Toten ansieht.

Neben seinem Siddur, der sich trotz einiger Widerstände zu einem wichtigen Nachschlagewerk für das jüdische Gebet entwickelte, ist Rabbi Jakob Emden Autor mehrerer anderer Werke. Er schrieb ein Tagebuch mit dem Titel „Megillath Sefer”, das von großem historischen Interesse ist, da es ein klares Bild des jüdischen Lebens in jenen Tagen vermittelt. Er verfasste auch verschiedene Pamphlete im Zusammenhang mit den vielen Kontroversen, an denen er beteiligt war. Dazu gehört sein „Ejdut beJa-akow”, in dem er seinen Fall gegen Rabbi Jonathan Eybeschutz darlegt. Er verfasste Pamphlete in seinem Kampf gegen die Schabbtai Zwi-Bewegung. Von größerer Bedeutung sind seine Kommentare zur Mischna, „Seder Olam”, und der oben erwähnte Siddur, die wichtige Beiträge zur rabbinischen Literatur darstellen und ihm einen bedeutenden Platz unter den führenden Talmudisten seiner Zeit einräumten.