Das Haus der Sarah Pickard war um elf Uhr nachts wohlverwahrt verschlossen worden. Um fünf Uhr des folgenden Morgens fand man es erbrochen vor; im Hofe entdeckte man eine kurze, feste Klinge nebst einem Schneckenbohrer. Dieses Gezähe, das alsbald als das Eigentum des Joseph Kemp wiedererkannt wurde, eröffnete jene Strafverfolgung, die ihn schließlich auf das Schafott führen sollte.
Der Verfasser der zeitgenössischen Lebensbeschreibungen schickt seiner Erzählung sogleich eine moralische Nutzanwendung voraus: Ehe er Kemps Werdegang schildert, gibt er jenen Frauen, die er als verderbt brandmarkt, die Schuld am ersten Fehltritt des Mannes. Die am Ende wiedergegebene Erklärung des Verurteilten verschiebt freilich einen beträchtlichen Teil dieser Verantwortung auf dessen eigene Entschlüsse und bittet inständig darum, seine letzte Ehefrau zu schonen.
Kemp erblickte in Holborn das Licht der Welt als Sohn armer Bauers- oder Handwerksleute, die ihn auf die Freischule des Kirchspiels schickten. Hernach trat er bei einem Glaser in die Lehre, die er der Chronik zufolge mit dem Ruf eines rechtschaffenen Gesellen beschloss. Seine Eltern hatten derweil ihren Wohlstand durch fleißige Hände gebessert. Als er eine eigene Werkstatt einrichten wollte, überließen sie ihm sechzig Pfund als Anfangskapital. Kemp hatte jedoch bereits ein Weibsbild kennengelernt, an das er sein Herz gehängt hatte und das er zu ehelichen begehrte, obschon er wusste, dass sie bereits zwei andere Männer als ihre Gatten ausgab.
Die Frau nahm den Heiratsantrag Kemps an, da die Quelle ihn als denjenigen darstellt, der am ehesten imstande schien, sie ohne eigene Mühe zu unterhalten. Doch das Gewerbe des jungen Glasers ging bald zugrunde; dem Ruin preisgegeben, musste er zusehen, wie seine Frau laut dem Chronisten wieder zu ihren alten Diebereien griff. Sie wurde ertappt und nach Newgate überstellt, wo ihr eine lange Festungshaft drohte. Kemp, der ihr nach wie vor in blinder Ergebenheit zugetan war, trug ihr jedweden Schilling zu, dessen er habhaft werden konnte. Er beklagte, so berichtet die Schrift, nicht mehr Geld herbeischaffen zu können. Darob geriet das Weib in Zorn, überhäufte ihn mit Schmähungen und befahl ihm, Häuser zu erbrechen, Reisende auf der Straße zu plündern oder jegliche Tat zu wagen, die bares Geld einbringe. Er fügte sich schließlich und beschaffte sich das Handwerkszeug eines Einbrechers. Die Chronik benennt weder die ersten Häuser noch die Eigentümer des Silberzeugs, das er ihr herbeitrug; sie vermerkt lediglich, dass die Beute, zu Geld gemacht, hinreichte, um ihre Entlassung aus Newgate zu erkaufen. Die Quelle fügt hinzu, sie habe den Ertrag seiner Taten alsdann an andere Buhlen verschwendet; diese Beweggründe entspringen freilich der Sittenlehre des Chronisten und werden durch kein weiteres Zeugnis gestützt.
Diese Freilassung setzte den Diebstählen der ersten Ehefrau keineswegs ein Ende. Wegen eigener Missetaten ward sie aufs Neue verhaftet, schuldig gesprochen und über die Meere verbannt. Der Ort ihrer Deportation bleibt ungenannt. Kemp wandte sich indessen einer neuen Gefährtin zu. Als er diese ehelichte, war sein Kredit dahin, sein guter Name zerstört und er besaß kein redliches Auskommen mehr. Da seine erste Frau noch lebte, bezeichnet die Chronik diese zweite Heirat als gesetzwidrig; sie nennt den Namen dieser zweiten Gemahlin nicht und führt auch keinen Trauschein an. Der Bericht hält lediglich fest, dass Kemp sich von nun an ganz dem Einbruchdiebstahl verschrieb und eine Vielzahl von Taten beging.
Schon bald wurde er gefasst und unter mehreren Anklagen in Newgate festgesetzt. Bei den folgenden Sitzungen des Old Bailey wurde ihm zur Last gelegt, das Haus der Sarah Pickard erbrochen und daraus sechsunddreißig Ringe aus Gold und Edelsteinen, drei silberne Uhren, etliche Stücke Silbergeschirr nebst mancherlei anderem Wertgegenstand entwendet zu haben. Mistress Pickard sagte aus, ihr Haus sei bis elf Uhr abends wohlverschlossen gewesen und am Morgen darauf um fünf Uhr erbrochen aufgefunden worden. Im Hofe fand ein Verwandter des Gefangenen, der gleichfalls den Namen Kemp trug, eine kurze Klinge und einen Schneckenbohrer; er erkannte diese Werkzeuge als das Eigentum des Angeklagten wieder.
Dieser Verwandte bekundete, der Gefangene habe ihm das Messer zuvor gewiesen. Joanna Kemp und Jonathan Auskins bestätigten diesen Umstand gleichfalls. Der Gerichtsknecht Samuel Gerrard bezeugte, dass man bei der Durchsuchung von Joseph Kemps Behausung im Beisein der beiden vorgenannten Zeugen etliche Gegenstände aus dem Eigentum der Mistress Pickard aufgefunden habe. In ihrer Gegenwart gestand der Angeklagte, den Einbruch gänzlich allein, ohne Anstiftung oder Beihilfe eines Dritten, verübt zu haben. Dieses Geständnis schloss jedwede Mittäterschaft ausdrücklich aus; gleichwohl berichtet der Chronist im früheren Verlauf, er habe seiner ersten Gattin Silberzeug übergeben. Aus den überlieferten Akten geht nicht hervor, dass diese wegen ebenjenes Einbruchs belangt worden wäre.
Kemp brachte zu seiner Verteidigung nur wenig vor. Die Geschworenen erkannten ohne Zögern auf schuldig. Er wurde überdies in zwei weiteren Anklagepunkten verurteilt: wegen eines Einbruchs bei James Wood sowie wegen eines solchen bei Mary Paget, wo kostbares Silbergeschirr erbeutet worden war. Die Beweise in diesen beiden Sachen, so präzisiert die Quelle, stammten von John Knap, einem Mitschuldigen, der sich zum Kronzeugen hergegeben hatte, um die eigene Haut zu retten. Die letzte Ehefrau Kemps war mit ihm angeklagt und vor Gericht gestellt worden, doch sprach die Jury sie frei. Der Text überliefert weder ihren Namen noch die genauen Einzelheiten der gegen sie erhobenen Anschuldigung.
Unter dem Todesurteil stehend, verfiel Kemp in ein Siechtum, das ihn daran hinderte, den Großteil jener Frist zu nutzen, welche das Gesetz den Verurteilten zur Vorbereitung auf das Ende zubilligte. Der Chronist berichtet, er sei derart taub geworden, dass er geistlichen Zuspruch kaum mehr zu vernehmen vermochte. Ungeachtet dessen schreibt er ihm ein tiefes Bewusstsein der Seelengefahr zu, ein bitteres Schmerzempfinden über seinen vergangenen Lebenswandel und eine aufrichtige Reue, die Pflichten gegen Gott und die Nächsten vergessen zu haben. Als die Todesstunde nahte, fasste er wieder einigen Mut und trat nach dem Dafürhalten des Beobachters mit den äußeren Zeichen eines bußfertigen Sünders auf den Richtplatz.
Zwei Tage zuvor, am 22. August 1729, hatte er in Newgate eine Erklärung verfasst, die an die Öffentlichkeit gerichtet war. Darin rief er ins Gedächtnis, dass seine Eltern ihn redlich erzogen hatten und er Glaserlehrling gewesen war. Er klagte seinen Meister an, nicht pfleglich mit ihm umgegangen zu sein, und schob hernach seine erste Heirat und seinen Untergang der übermäßigen Verblendung mit seinem Weibe zu, die von dem Erwerb seines Handwerks nicht habe leben können und ihn zu Verbrechen angestiftet haben soll. Gleichwohl räumte er ein, dass seine zweite Gemahlin ein gutes Herz besessen und versucht habe, ihn zu einem Leben ohne Diebstahl zu bewegen, er jedoch ihren Ermahnungen kein Gehör geschenkt habe. Er bat darum, dass seine Eltern nicht unter seinem schmählichen Ende vergehen sollten, flehte um Verzeihung bei allen, die er geschädigt hatte, und bat auch um Vergebung für jene, deren Aussagen zu seinem Verderben beigetragen hätten.
Diese Erklärung gibt dem vorangegangenen Bericht des Chronisten eine gänzlich andere Färbung. Kemp verlangte ausdrücklich, dass man seine Frau nicht schmähen möge: Er beteuerte, jedwede Verfehlung, die sie begangen haben mochte, sei auf seine Veranlassung geschehen, während er sie selbst als dem Guten zugewandt beschrieb. Aus der Quelle wird nicht zweifelsfrei ersichtlich, ob sich diese Fürbitte allein auf seine letzte, im Prozess freigesprochene Ehefrau bezog oder ob sie zugleich auf die Vorwürfe gegen die erste antworten sollte. Die beiden Frauenbilder der Überlieferung lassen sich mithin weder zu einer einzigen Gestalt verschmelzen noch als unumstößliche Tatsachen begreifen.
Am Tage der Hinrichtung bestieg seine Ehefrau den Richtkarren und nahm mit einer Zärtlichkeit von ihm Abschied, die der Chronist als bemerkenswert hervorhebt. Joseph Kemp starb am 24. August 1729 im vierundzwanzigsten Lebensjahre. Der Schuldspruch war in drei getrennten Sachen gefällt worden – namentlich den Fällen Pickard, Wood und Paget; seine letzte Ehefrau, die mit ihm angeklagt war, ging frei aus. Über das Urteil hinaus hinterlässt die Chronik zwei einander widersprechende Lesarten über die häusliche Mitschuld: jene des Erzählers, der Kemps Abgleiten in das Verbrechen der ersten Heirat anlastet, und jene Kemps selbst, der darum bittet, seine Frau zu schonen, und bekennt, den Beistand der zweiten verschmäht zu haben.