В Константинополе Аверченко почувствовал себя более-менее уютно, так как там в то время находилось огромное количество русских беженцев, таких же как и он.
В 1921 году в Париже опубликовал сборник памфлетов «Дюжина ножей в спину революции», названный Лениным «высокоталантливой книжкой … озлобленного до умопомрачения белогвардейца». За ним последовал сборник «Дюжина портретов в формате будуар».
13 апреля 1922 года Аверченко переезжает в Софию, затем в Белград.
Ни в одном из этих городов Аверченко надолго не остался, а переехал 17 июня 1922 года в Прагу на постоянное место жительства.
В 1923 году в берлинском издательстве «Север» вышел его сборник эмигрантских рассказов «Записки Простодушного».
Жизнь вдали от Родины, от родного языка была очень тяжела для Аверченко; этому были посвящены многие его произведения, в частности, рассказ «Трагедия русского писателя».
В Чехии Аверченко сразу приобрёл популярность; его творческие вечера пользовались шумным успехом, а многие рассказы были переведены на чешский.
Работая в известной газете «Prager Presse», Аркадий Тимофеевич написал много искромётных и остроумных рассказов, в которых всё же чувствовалась ностальгия и огромная тоска по старой России, навеки канувшей в прошлое.
В 1925 году, после операции по удалению глаза Аркадий Аверченко серьёзно заболел. 28 января его в почти бессознательном состоянии положили в клинику при Пражской городской больнице с диагнозом «ослабление сердечной мышцы, расширение аорты и склероз почек».
Спасти его не смогли, и утром 12 марта 1925 года он умер.
Похоронен Аверченко на Ольшанском кладбище в Праге.
Последней работой писателя стал роман «Шутка Мецената», написанный в Сопоте в 1923 году, а изданный в 1925, уже после его смерти.