Ich besitze kein Numbers, aber wahrscheinlich wurde hier einfach von den Programmierern eine minimale Zellenhöhe und -breite definiert, die eben bei 0,3 cm liegt. Macht ja auch Sinn, denn Numbers ist erstmal eine Tabellenkalkulation, soll heißen, die Tabellen müssen am Bildschirm übersichtlich ausschauen und gut bearbeitbar sein. Bei winzigen Zellengrößen ist das sicher nicht mehr gegeben, folglich hat man eine minimale Größe festgelegt (sicher auch, um zu verhindern, dass irgendwer aus Versehen sehr kleine Zellengrößen eingibt).
Fazit: Dein Ansinnen wird so wahrscheinlich nicht umsetzbar sein.
Mögliche Lösung: Du erstellst deine Tabelle beispielsweise im Maßstab 10:1 (1 cm auf dem Bildschirm/Blatt/Dokument entspricht 0,1 cm) und stellst es dann am Ende entsprechend klein dar (bzw. druckst es entsprechend klein aus).
Die beste Lösung wird aber sein, sich eine andere Lösungsstrategie zu überlegen, denn spontan fällt mir keine Aufgabenstellung ein, bei der man in einer Tabellenkalkulation unbedingt winzige Tabellenzellen braucht. Soll heißen, entweder ist die Lösungsstragie als solche schlecht oder du versuchst da Dinge mit einem Programm umzusetzen, das dafür nicht gedacht ist.
Wenn du kurz erklären würdest, was du genau erreichen willst, kann man dir eventuell helfen ein geeigneteren Lösungsansatz zu finden oder ein Programm, mit dem man das besser umsetzen kann.