"Ко мне приходили Минкельде, а потом Петя Ольденбургский, на днях поступивший на службу в 14-ю роту Преображенского полка." (Запись за 25 декабря 1889 г.)
"Петя Ольденбургский вернулся из-за границы весёлый и счастливый быть, наконец, опять на родине и в своей 14-й роте." (Запись за 6 апреля 1892 г.)
"У нас завтракал милый Петя Ольденбургский. [...] Был у меня Петя Ольденбургский за советом. Он предполагает оставить полк и прикомандироваться к Министерству земледелия." (Записи за 23 и 26 января 1894 г.)
"Вспоминаю об охватившей меня сладкой дремоте, стараюсь снова привести себя в то же состояние, но напрасно... Зачем не слышу я Её звонкого смеха, не вижу Её больших добрых глаз, Её ласковой улыбки? Неужели навсегда, на всю жизнь разлука, одиночество?"
"Рассказы его были интересны, конечно, только тем, что давали представление о его душевном облике. Он писал о "золотых" народных сердцах, внезапно прозревающих после дурмана революции и страстно отдающихся Христу, Его заветам братской любви между людьми, [...] писал горячо, лирически, но совсем неумело, наивно." ("Его высочество", И. А. Бунин)
"Это был удивительный человек. Алданов назвал его человеком "совершенно удивительной доброты и душевного благородства". Но он был удивителен и многими другими качествами. Он был бы удивителен ими, если бы даже был простым смертным. А в нем текла царская кровь...
...он был очень чисто (по-военному чисто) выбрит и вымыт и точно так же чист аккуратен и в одежде, очень простой и дешёвой: лёгкое непромокаемое пальто неопределённого цвета, бумажные воротнички, грубые ботинки военного английского образца... Меня удивил его рост, его худоба, - какая-то особенная, древняя, рыцарская, в которой было что-то даже как бы музейное, - его череп, совсем голый, маленький, породистый до явных признаков вырождения, сухость и тонкость красноватой, как бы слегка спалённой кожи на маленьком костлявом лице, небольшие подстриженные усы тоже красно-жёлтого цвета и выцветшие глаза, скорбные, тихие и очень серьёзные, под треугольно поднятыми бровями (вернее следами бровей).
[...] Ответить на этот вопрос, - что за человек был он, - я точно никогда не мог. Не могу и теперь. Некоторые называли его просто "ненормальным". Все так, но ведь и святые, блаженные были "ненормальными"...
В сущность я знал его мало: встречал не часто, [...] до эмиграции даже не видел никогда, сведений о его прежней жизни, в России, имею немного... Неизвестен мне полностью и его характер, - Бог ведает, может быть, были в нём, кроме тех черт, которые знал я, и другие какие-нибудь. Я же знал только прекрасные: эту действительно "совершенно исключительную доброту", это "душевное благородство", равное которому надо днём с огнём искать, необыкновенную простоту и деликатность в обращении с людьми, редкую нежность в дружбе, горячее и неустанное стремление ко всему, что даёт человеческому сердцу мир, любовь, свет и радость..."