Построение мира, в котором конфиденциальность данных существует в интернете
Dawn Song, эксперт в области компьютерной безопасности и искусственного интеллекта, работает над тем, чтобы воплотить это видение в реальность.
- Данные очень ценны — это то, что такие компании, как Facebook, Google и Amazon, поняли гораздо раньше, чем большинство потребителей. Но ученые-компьютерщики работали над альтернативными моделями, даже когда общественность устала от того, что их данные используются и злоупотребляют ими.
Dawn Song, профессор Калифорнийского университета в Беркли и один из ведущих мировых экспертов в области компьютерной безопасности и искусственного интеллекта, предлагает новую парадигму, в которой люди контролируют свои данные и получают компенсацию за их использование корпорациями. В то время как было много предложений по такой системе, профессор Song фактически строит платформу, чтобы сделать ее реальностью.
“Когда мы говорим о данных как о новой нефти, особенно важно разработать технологии, которые могут использовать данные с сохранением конфиденциальности", - сказала недавно профессор Song в своём офисе в Сан-Франциско с широким видом на залив.
Профессор Song, выросла в Даляне, Китай, морском порту в северо-восточной провинции Ляонин. Она дочь двух местных государственных служащих, не имеющих никакого опыта работы с компьютерами.Не зависимо от этого она была лучшей студенткой в средней школе, она мечтала стать фотографом природы в стиле National Geographic. Один из ее учителей отговорил ее от этого.
Мать хотела, чтобы она изучала бизнес, и написала от ее имени заявление в известную бизнес-школу. Затем, незадолго до вступительных экзаменов в Национальный колледж, ее учитель снова вмешался, убеждая мать, что ее дочь ждет светлое будущее в науке. Вместо этого профессор Song обратилась в Университет Цинхуа, ведущий научный университет Китая, чтобы изучать физику. Она продолжила изучать физику в Корнельском университете, но перевелась в Университет Карнеги-Меллона, где получила степень магистра компьютерных наук, прежде чем поселиться в Беркли и получить степень Доктора компьютерных наук. К тому времени она была сосредоточена на компьютерной безопасности.
Профессор Song обратила на себя внимание, будучи еще аспирантом в Беркли с новаторской работой, которая показала, что алгоритм машинного обучения может сделать вывод о томе кто , что печатает, по времени нажатий клавиш, подслушанных в сети. С тех пор она была на переднем крае AI, включая повышение устойчивости самих моделей машинного обучения, рекурсивных блоков компьютерного кода, которые учатся распознавать шаблоны в данных, которые они потребляют.
Модели машинного обучения, как бы они ни были удивительны в определении всего, от опухолей на рентгеновских снимках до слов в невнятной речи, остаются легкими для обмана. Профессор Song и ее ученики первыми продемонстрировали, что системы компьютерного зрения можно обмануть, чтобы распознать знак остановки как знак ограничения скорости 40 миль в час, просто приложив к нему несколько безобидных наклеек. Примеры этих измененных дорожных знаков были выставлены в лондонском Музее науки.
” Ее работа над знаком остановки была одной из первых, кто создал примеры состязательности в физической области , а не просто манипулировал пикселями изображения на компьютере", - сказал Баттиста Биджио, доцент итальянского Университета Кальяри и один из первых людей, изучивших уязвимости таких систем.
Профессор Song, преподавала в Беркли в течение десяти лет, работала над разработкой методов и систем, которые могут обеспечить не только безопасность компьютерных систем, но и конфиденциальность. Она представляет себе мир защищенных сетей, где люди контролируют свои личные данные и получают от этого доход. Она сравнивает современный мир с тем временем в истории человечества, когда у людей не было четкого представления о правах собственности. Как только эти права были институционализированы и защищены, это помогло произвести революцию в экономике.
Она основала компанию Oasis Labs, которая строит платформу, которая может дать людям возможность контролировать свои данные и проверять, как они используются. Она считает, что как только данные рассматриваются как собственность, они могут стимулировать глобальную экономику невиданными ранее способами. “На этом можно построить новые бизнес-модели”, - сказала она.
Данные, конечно, не похожи на физический объект. Если человек дает другу яблоко, то у кого-то другого это яблоко не может быть. Но данные отличаются друг от друга свойством, которое ученые называют нетривиальностью. Люди могут дать (или продать) столько копий, сколько захотят.
Большинство людей отдают свои данные, передавая их компаниям, нажав кнопку "Принять", даже не потрудившись прочитать мелкий шрифт. Либо люди в интернете принимают условия и участвуют в цифровом мире, либо они отключаются — что на самом деле не является вариантом для тех, кто работает в глобальной экономике. На этих данных строились целые состояния, обогащая горстку предпринимателей.
“Наши данные никогда не подвергались большему риску, и наша потребность в новых видах надежных решений для обеспечения конфиденциальности никогда не была больше”,-сказал Гай Зискинд , соучредитель и исполнительный директор Enigma, еще одной компании, создающей децентрализованный протокол частных вычислений.
Когда люди выходят в интернет, данные собираются и хранятся на централизованных серверах, которые уязвимы для атак. Но профессор Song и ее коллеги считают, что, объединив специализированные компьютерные чипы и технологию блокчейн, они смогут построить систему, которая обеспечит большую масштабируемость и защиту конфиденциальности.
“Некоторые компьютерные чипы — например, те, что используются в большинстве мобильных телефонов — уже включают в себя защищенную зону, называемую доверенной средой выполнения, которая защищает программное обеспечение от большинства видов атак. Группа профессора Song работает над повышением безопасности этих зон, создавая безопасный анклав с открытым исходным кодом Keystone. Внутри защищенного анклава биты компьютерного кода, называемые смарт-контрактами, позволяют владельцам данных контролировать, кто имеет доступ к их данным и как они используются.
“Вы действительно можете иметь целостность, которую обеспечивает блокчейн-книга, а также вы можете иметь конфиденциальность или конфиденциальность для выполнения смарт-контрактов, которые обеспечивает безопасный анклав", - сказала профессор Song, она говорит быстро, как будто спешит идти в ногу со своими мыслями. - Ни один централизованный сервер никогда не увидит эти данные.”
Oasis Labs создает платформу для поддержки предприятий и разработчиков. Они начали пилотный проект с Nebula Genomics, компанией по секвенированию генов непосредственно для потребителей, которая предлагает отчеты о секвенировании всего генома о происхождении, здоровье и генетических признаках с еженедельными обновлениями. Используя инструменты сохранения конфиденциальности Oasis Labs, клиенты Nebula сохранят полный контроль и право собственности на свои геномные данные, позволяя Nebula выполнять конкретный анализ данных, не раскрывая основную информацию.
Другое приложение, получившее название Kara, разработанное совместно с Медицинской школой доктора Роберта Чанга, предоставляет глазным пациентам возможность обмениваться сканированием сетчатки и другими медицинскими данными с исследователями, которые используют эти данные для обучения моделей машинного обучения распознаванию заболеваний.
Часть проекта Kara изучает, какие стимулы пациенты найдут значимыми в обмен на предоставление своих данных для медицинских исследований.
“Ее подход уникален по сравнению с другими агрегаторами данных, - сказал доктор Чанг. "Этот проект действительно задает важный вопрос-кто на самом деле владеет данными?”
Когда-нибудь, считает профессор Song, люди получат индивидуальный поток доходов от своих данных. Это может быть незначительным на ежемесячной или даже ежегодной основе, но сборы, которые накапливаются в течение всей жизни от компаний, использующих персональные данные, могут способствовать пенсионным накоплениям, например. Или доходы от групп людей могут быть использованы для финансирования конкретных целей. В то же время разблокирование данных может привести к улучшению услуг для потребителей.
"Сегодня компании берут данные пользователей и, по сути, используют их в качестве продукта; они монетизируют их”, - сказал профессор Song. "Мир может быть совсем другим, если все это повернуть вспять и пользователи сохранят контроль над данными и получат от этого доход.”
Крейг С. Смит-бывший корреспондент The Times, а ныне ведущий подкаста Eye on A. I.
Эта статья является частью нашего специального раздела "женщины и лидерство", в котором основное внимание уделяется подходам, применяемым женщинами, меньшинствами или другими обездоленными группами, бросающими вызов традиционному образу мышления.