Distributed Function Approximation over Noisy Channels
With Reliability and Security Guarantees for Applications in Wireless
Networks
vorgelegt von
M. Sc.
Matthias Frey
https://orcid.org/0000-0003-3016-2644
an der Fakult¨
at IV - Elektrotechnik und Informatik
der Technischen Universit¨
at Berlin
zur Erlangung des akademischen Grades
Doktor der Naturwissenschaften
- Dr. rer. nat. -
genehmigte Dissertation
Promotionsausschuss:
Vorsitzender: Prof. Giuseppe Caire, Ph.D.
Gutachter: Prof. Dr.-Ing. Slawomir Sta´nczak
Gutachter: Prof. Dr. Michael C. Gastpar
Gutachter: Dr. Jingge Zhu
Tag der wissenschaftlichen Aussprache: 12. Dezember 2022
Berlin 2023
Abstract
Over-the-Air (OTA) computation is the problem of computing functions of distributed
data over a wireless channel without transmitting the entirety of the data to a central
point. By avoiding such costly transmissions, OTA computation schemes can achieve a
better-than-linear (depending on the function, often logarithmic or even constant) scaling
of the communication cost as the number of transmitters grows. Among the most common
functions computed OTA are linear functions such as weighted sums. In this work, we
propose and analyze a method for the approximation of functions of distributed arguments
over noisy channels. This method can be used as an analog OTA computation scheme
for a class of functions that contains linear functions as well as some nonlinear functions
such as p-norms of vectors. We prove error bound guarantees that are valid for fast-fading
channels and all distributions of fading and noise contained in the class of sub-Gaussian
distributions. This class includes Gaussian distributions, but also many other practically
relevant cases such as Class A Middleton noise and fading with dominant line-of-sight
components. In addition, there can be correlations in the fading and noise so that the
presented results also apply to, for example, block fading channels and channels with
bursty interference. We do not rely on any stochastic characterization of the distributed
arguments of the OTA computed function; in particular, there is no assumption that these
arguments are drawn from identical or independent probability distributions. Our analysis
relies on tools from high-dimensional statistics which we adapt so that they are applicable
to the scenario at hand. The resulting error guarantees are nonasymptotic and therefore
provide error bounds that are valid for a finite number of channel uses.
OTA computation has a huge potential for reducing communication cost in applications
such as Machine Learning (ML)-based distributed anomaly detection in large wireless
sensor networks. We show this potential with two examples of how our OTA computation
scheme can be used to vastly increase the efficiency of Vertical Federated Learning (VFL)
over a wireless channel. We also illustrate the efficiency gain with numerical simulations
for a few example cases.
Then, we move on to propose a new method to protect OTA computation schemes
against passive eavesdropping. Our method uses a friendly jammer whose signal is –
contrary to common intuition – stronger at the legitimate receiver than it is at the eaves-
iii
dropper. It works for a large class of analog OTA computation schemes and we give details
on the special case of computing an arithmetic average over an Additive White Gaussian
Noise (AWGN) channel. The derived secrecy guarantee translates to a lower bound on
the eavesdropper’s mean square error while the question of how to provide operationally
more significant guarantees such as semantic security remains open for future work. As
key ingredients in proving the security guarantees, we propose and prove generalizations
of known results on channel resolvability and coding for compound channels for the case
of continuous channel input and output alphabets.
iv
Zusammenfassung
Funktionsberechnung im Funkkanal ist eine Methode, Funktionen verteilter Daten ohne
eine vollst¨
andige ¨
Ubertragung der Daten zu einem zentralen Punkt zu berechnen. Indem
solche ¨
Ubertragungen vermieden werden, kann erreicht werden, dass der Ressourcenver-
brauch weniger schnell als linear mit der Anzahl der Sender w¨
achst. Abh¨
angig von der zu
berechnenden Funktion kann dieses Wachstum dann in vielen F¨
allen logarithmisch oder
sogar konstant sein (d.h. die zur Funktionsberechnung n¨
otigen Kanalressourcen wachsen
¨
uberhaupt nicht, wenn die Anzahl der Sender w¨
achst). Zu den am h¨
aufigsten im Funk-
kanal berechneten Funktionen geh¨
oren lineare Funktionen wie z.B. gewichtete Summen.
In der vorliegenden Arbeit f¨
uhren wir eine Methode zur verteilten Approximation von
Funktionen in verrauschten Kan¨
alen ein. Diese Methode kann als Verfahren zur analogen
Funktionsberechnung im Funkkanal genutzt werden. Sie ist auf eine Klasse von Funktionen
anwendbar, die zum einen alle linearen Funktionen, zum anderen aber auch einige nicht-
lineare Funktionen wie die p-Norm von Vektoren enth¨
alt. Wir zeigen Fehlerschranken f¨
ur
unser Verfahren, die in Kan¨
alen mit Fast Fading gelten, wobei sowohl die Verteilung des
Fadings als auch die des Rauschens zur Klasse der sub-Gauß’schen Wahrscheinlichkeitsver-
teilungen geh¨
oren m¨
ussen. Diese Klasse enth¨
alt nicht nur alle Normalverteilungen, sondern
auch viele andere in der Praxis relevanten Verteilungen wie z.B. Class-A-Rauschen nach
Middleton und Fadingverteilungen mit einer dominanten Sichtkomponente. Zudem sind
unsere Fehlerschranken auch dann noch g¨
ultig, wenn es Korrelationen in der Verteilung des
Fadings und/oder Rauschens gibt, sodass unsere Ergebnisse beispielsweise auch auf Kan¨
ale
mit Blockfading oder geb¨
undelt auftretender Interferenz anwendbar sind. Dabei verwen-
den wir keinerlei stochastische Charakterisierung der Argumente der ¨
uber den Funkkanal
zu berechnenden Funktion. Dies bedeutet insbesondere, dass keine Annahme ¨
uber identi-
sche Verteilung oder Unabh¨
angigkeit dieser Argumente n¨
otig ist. Unsere Analyse baut auf
Werkzeugen aus der hochdimensionalen Statistik auf, die wir derart anpassen, dass sie im
vorliegenden Szenario anwendbar sind. Die sich daraus ergebenden Fehlerschranken sind
nichtasymptotisch, d.h. sie sind f¨
ur jede beliebige (endliche) Anzahl von Kanalnutzungen
g¨
ultig.
Funktionsberechnung im Funkkanal bietet ein riesiges Potenzial, in Anwendungen wie
z.B. der auf maschinellem Lernen basierenden Anomaliedetektion in großen Sensornetzen
v
Loading more pages...