复旦白泽战队 2024-04-10 19:18 上海 AI大模型安全评测与治理，复旦白泽一直在路上      随着 OpenAI ChatGPT、Sora 为代表的 AI 大模型正加速发展，复旦白泽高度关注 AI 大模型安全，持续自研大模型靶向安全评测技术，生成海量高危诱导问题，高效挖掘 AI 大模型高风险生成行为，对标《生成式人工智能服务安全基本要求》发布面向中文大模型多等级安全的 JADE 安全合规评测平台与数据集（白泽智能团队研发，详见https://github.com/whitzard-ai/jade-db），获得包括华为、百度、阿里、字节等在内众多大模型头部厂商的合作意向。此外，还形成多项决咨建议，得到中央和上海市相关部门高度认可。  ...

原创 欧阳慧 2024-04-02 14:18 上海 江湾新食堂大测评！ 序 万众瞩目的江湾新食堂终于开业啦！坐拥距离叉二楼步行仅需5分钟的绝佳位置， 这个食堂可谓是实验室同学们吃饭的第一首选。辛苦工作完，不用来回跑，马上就能够吃上一顿，多是一件美事！面对众多美食选择，你是否还在苦苦犹豫？别担心！经过白泽们一周的品尝，各色菜式评测榜，新鲜出炉！从出餐速度、口味、价格多维测评，不管是追求速度还是口味，总有一款适合你~3L-北京烤鸭 出餐速度：4分钟价格：28元口感：鸭肉肉质鲜嫩，口感细腻，搭配上清脆的黄瓜和爽口的京葱，简直是绝配，完美地平衡了鸭肉的油腻感，使得整体口味更加清新爽口。总评：好东西无需多言，只是稍微有点不够吃。推荐指数：★★★★★2L-巴蜀风味...

原创 汤杭运 2024-04-01 15:13 上海 天朗气清，正是春游好时节！ 《春光好》· 欧阳炯天初暖，日初长，好春光。万汇此时皆得意，竞芬芳。笋迸苔钱嫩绿，花偎雪坞浓香。谁把金丝裁剪却，挂斜阳。2024年3月30日，secsys课题组同学们来到了共青森林公园，开启美好的春天之约。此次活动旨在促进成员之间的沟通，丰富课余生活，营造和谐融洽的集体氛围，同时领略大自然的优美景色，感受春日的美好与活力。共青森林公园位于上海市杨浦区，是以森林为主要景观的特色公园，共种植200余种树木，总数达30多万株。历经大半个世纪沧桑岁月变迁的共青森林公园，既留存着无数新、老上海人最为开心的那份回忆，也是新中国成立以来上海城市发展进程的一个重要缩影。 春光明媚，感受自然之美·SPRING·春分已过，白昼渐长，随着温度逐渐升高，春的气息也越发浓郁。草长莺飞，蜂鸣蝶舞，天地间洋溢着欣欣向荣的活力。共青森林公园中，一场精彩纷呈的森林百花盛景徐徐展开：枝头上梨花樱花堆积如雪，树林间二月兰似紫色的烟霞，更有绣球和三色堇等繁丽的花朵像锦缎一般流光溢彩。温暖而不燥热的阳光映照着粼粼生辉的水面，不知名的的鸟儿四处欢歌，微风拂过...

原创 白泽智能 2024-03-31 11:53 上海 本研究提出了GNNFingers——与下游任务无关的图神经网络模型指纹生成和验证框架。旨在保护图神经网络在不同应用场景下的模型知识产权，防止模型被非法复制、重新分发或滥用等。本研究已被交叉综合领域的国际会议WWW2024接收。     ｜成果分享｜今天分享我实验室白泽智能（Whizard AI）的最新研究 GNNFingers: A Fingerprinting Framework for Verifying Ownerships of Graph Neural Networks。该工作旨在保护图神经网络在不同应用场景下的模型知识产权，防止模型被非法复制、重新分发或滥用。目前该工作已被交叉综合领域的国际会议International...

原创 白泽智能 2024-03-26 11:00 北京 我实验室白泽智能发表于CVPR'24的神经元坍缩视角下的模型去偏工作将神经元坍缩现象拓展到有偏数据集的场景下，重新审视了深度学习模型的“捷径学习”问题，提出了一种基于先验引导的模型去偏方法，在多种有偏数据集场景下取得了大幅的性能提升。     ｜成果分享｜今天分享我实验室白泽智能（Whizard AI）的最新研究 Navigate Beyond Shortcuts: Debiased Learning through the Lens of Neural Collapse。该工作将神经元坍缩现象（Neural Collapse phenomenon）拓展到有偏数据集的场景下，重新审视了深度学习模型的“捷径学习”问题，提出了一种基于先验引导的模型去偏方法，在多种有偏数据集场景下取得了大幅的性能提升。目前该工作已被计算机视觉顶级会议IEEE/CVF...

原创 白泽智能 2024-03-25 11:00 北京 我实验室白泽智能已被CVPR'24录用的最新研究CausalPC：基于因果模型提升点云分类模型对抗鲁棒性 今天分享我实验室白泽智能（Whizard AI）的最新研究CausalPC: Improving the Robustness of Point Cloud Classification by Causal Effect Identification。本文通过引入因果模型，提出了一种提升点云分类模型对抗鲁棒性的方法，其应对有目标攻击和无目标攻击的防御效果都远高于现有的多种SOTA防御方法，目前该工作已被计算机视觉顶级会议IEEE/CVF Computer Vision and Pattern Recognition...