Solo para darle a conocer débilmente como escritor, sería necesario hacer el análisis circunstanciado de sus varias obras; porque el panegirista de Colón, amados compatriotas, poseía en grado eminente, a manera de Tulio su modelo, todas las diversas clases de estilo con los matices y gracias peculiares, desde el dulce abandono de la correspondencia epistolar hasta los sublimes arrebatos de la oración fúnebre. Yo no sé si después de Bossuet ha resonado por las bóvedas del templo santo una voz más elocuente que la del orador sagrado de la Habana, cuando se trasladaron al seno de nuestra patria las reliquias del gran descubridor. Yo no he visto jamás una composición que fuese más conforme al espíritu de la elocuencia del púlpito; jamás oí hombre más empapado en el rocío fertilizador de las sagradas letras; no hay frase ni pasaje donde no resalte el gusto acendrado, el alma tierna y sublime, la maestría consumada del orador. El mismo obispo de Meaux no se hubiera desdeñado de pronunciar el sermón sobre aquellos huesos venerables. ¿Qué rasgo fue nunca más elocuente? (y al llegar aquí siento en el alma que la sangre del orador también circula por mis venas, porque ella desautoriza mis palabras). ¿Qué rasgo fue nunca más vehemente ni más sublime que aquel apóstrofe inmortal al grande almirante de las Indias, “sumido en el sueño augusto de la muerte, para que se levantara a reclamar sus derechos violados, sus méritos desatendidos y sus trabajos premiados en ajena cabeza”? Este sermón aseguró para siempre en las manos de Caballero la palma de la elocuencia sagrada, no solo en el término de nuestra Isla, sino por todos los ámbitos de la monarquía castellana. Pero si bien es generalmente conocido, a los unos de hecho y a los otros por fama, como el Bossuet de nuestra patria, no lo es todavía en tanto grado como uno de los primeros, sino el primero entre los oradores profanos. Uno solo pudo dividir con él estos laureles recogidos en el campo. Bastaría citar, entre otros trabajos memorables el elogio del Excmo. Casas, que, aunque leído a la Sociedad Patriótica desde el año de 1801, no vio la luz pública hasta el de 1829, en las páginas del Observador Habanero, y esto a influjo de uno de sus recomendables editores, celoso depositario de todas las joyas que adornan nuestra corona cívica. Pero todavía no bastarían estas piezas, ni otras, que ellas solas le hubieran puesto al frente de nuestros oradores, como son la admirable oración fúnebre del obispo Candamo, el sermón de S. Ambrosio y S. Francisco de Sales &c., para formar idea exacta de su flexibilidad como escritor. Es necesario leer su correspondencia familiar y científica, sus opúsculos didácticos, sus consultas, sus disertaciones, sus artículos críticos de periódico, y hasta sus traducciones, para que podamos conocer la voz del maestro, que toma siempre el tono que cuadra al género de la composición. Una de sus obras donde más reluce este linaje de maestría es el elogio puramente académico que por sus labios consagró la Sociedad a su malogrado amigo don Nicolás Calvo. Aquí se vería cómo el mismo espléndido orador que encumbró las proezas poéticas del padre de los educandos y padre de la Sociedad, al referir los merecimientos de su maestro, de su amigo, del mejor de sus paisanos, sabe contener todo el fuego de su alma dentro de los límites que le están prescritos, y sin apelar a movimientos extraordinarios, en aquella su inimitable sencillez, alcanza un nuevo género de triunfo por sobre las mismas cadenas con que se trató de aprisionar su libre y ardiente fantasía. El elogio de don Nicolás Calvo tiene un no sé qué de simplicidad griega, que nos encanta y nos obliga a releerle, apenas lo habemos terminado. Yo me atrevo a pronosticar a cuantos llegaren a saborear las producciones de Caballero, que les entrará el vivo deseo de conservar, como nos acontece respecto de Jovellanos, hasta los más fugaces rasgos de su pluma. Tal era la singular precisión, la gracia especial y el aticismo castellano que adornaba cuanto salía de sus manos, y aquel laconismo peculiar, todo suyo en saberlo hermanar con la perspicuidad. En estos mismos escritos admitiríamos su profunda y varia erudición, no ya solo en materias teológicas (se hubiera hecho oír en la tribuna del mismo Tridentino), sino en toda especie de asuntos, y muy principalmente en la historia sagrada y profana, para cuyo estudio le franqueaba las puertas su exquisito conocimiento en las lenguas antiguas y modernas.