El ejército rojo halló a Wallenberg el 13 de enero de 1945 en la calle Benczur 16 en Budapest. Informaron esto a los cuarteles de Moscú. El 17 de enero se puso a Wallenberg bajo custodia soviética, luego de lo cual desapareció misteriosamente. Un documento de la embajada sueca en Moscú, escrito el 31 de diciembre de 1944, hallado en los archivos del Ministerio Exterior soviético, asegura que la Unión Soviética sabía sobre la actividad de Wallenberg. Este mismo documento incluye una lista de todos los miembros de la Legación Sueca en Budapest (incluido Wallenberg) y un pedido del Ministerio Exterior Sueco solicitando a los militares soviéticos darle protección a esa gente al entrar en Budapest. El historiador ruso Vladimir Galitsky informa sobre la sospecha extrema del liderazgo soviético en el frente oriental. Cualquier persona detenida con conexiones con la primera línea era llevada al SMERSH (Contra inteligencia militar soviética, más tarde conocida como KGB) y luego por lo general eran enviados a los campos de guerra. A los detenidos de especial interés se los llevaba a Moscú para interrogarlos y luego eventualmente encarcelarlos a pesar del estado de ”prisioneros de guerra”. Una gran cantidad de prisioneros de guerra fueron llevados detrás de las primeras líneas soviéticas y no requería mucho ser detenido. Agentes del SMERSH eran conocidos por sus sospechas extremas. Cualquier prisionero que había estado en la zona de ocupación británica sería acusado de espionaje. Los líderes militares soviéticos, incluido el cada vez más paranoico Josef Stalin, eran escépticos de la operación liderada por la Legación sueca. Evidentemente, nunca consideraron el pedido sueco de proteger a Wallenberg. Por el contrario el Vice Ministro de Defensa ruso emitió una orden de detención, sin ninguna razón valedera, y fue enviada al frente ucraniano el 17 de enero de 1945. Se iba a llevar a Wallenberg a Moscú. Existe clara evidencia de qu e el SMERSH estaba involucrado en la detención. Un hecho interesante es que se enviaron órdenes de detención similares involucrando a dos diplomáticos suizos, Max Meier y Harald Feller, quienes tenían misiones similares a la de Wallenberg.
De acuerdo con el Dr. Gyorgy Gergely, empleado en el departamento especial de la Legación sueca, Wallenberg había estado bajo investigación soviética desde el 12 de enero. Se supone que había recibido un buen trato de parte de los soviéticos y estaba tratando de comunicarse con ellos para discutir un posible mejoramiento de las condiciones de los judíos. Salió con su chofer, Vilmos Langfelder, hacia una entrevista previamente acordada el 17 de enero, llevando tres portafolios y una gran cantidad de dinero. Otro miembro del personal de Wallenberg, Bela Revai dice que nunca se escoltó a Wallenberg a dicha entrevista, sino que fue detenido en forma inmediata luego de haberse entrevistado con funcionarios del ejército soviético. Dos prisioneros alemanes compañeros de Wallenberg (Ernest Huber y Gusav Rischer) en la prisión de Lubianka en Moscú transmiten lo que Wallenberg supuestamente les dijo: Se detuvo a Wallenberg y a Langfelder (el chofer) en el auto, el cual tenía los neumáticos pinchados por soldados rusos. Un debe considerar que las historias de Huber y Rischer son declaraciones orales hechas 10 años después de que tuvieron lugar. Podría haber elementos confusos y de olvido disminuyendo la fiabilidad del relato de Huber y Rischer. De todos modos, continuaron describiendo cómo Wallenberg y Langfelder fueron llevados a una prisión provisoria en Budapest para luego ser deportados a Moscú por tren. En Moscú se les había dicho que no se consideraran prisioneros sino que estaban bajo custodia de protección. Se les mostró el sistema de metro de la ciudad de Moscú y caminaron hasta la prisión de Lubianka. Mientras tanto, un oficial ruso en Budapest le dijo al resto del personal que Wallenberg estaba bajo su cuidado y que pronto regresaría a Estocolmo.
Aunque la orden de detención provino del Vice Ministro de Defensa soviético, Bulganin, quien por lo general nunca emitía órdenes a las primeras líneas, aún no está totalmente claro quién ordenó la detención. Cuando se le preguntó al respecto el embajador Hans Magnusson, anteriormente responsable por el expediente Wallenberg en el Ministerio Exterior sueco, dijo que era una orden del mismo Stalin. Basa su argumento en papeles recuperados sobre los dos diplomáticos suizos, cuya detención parece haberla originado Stalin directamente. Asumiendo que el documento lo originó Stalin directamente, uno podría hallar una conexión entre los tres diplomáticos. El líder soviético podría haber decidido detener a los diplomáticos de países neutrales todavía operando en Budapest, por alguna razón.